谷歌大脑联合创始人称,他测试让ChatGPT毁灭人类以失败告终
**划重点:**
1. 🧪 谷歌大脑联合创始人Andrew Ng进行实验,试图让GPT-4执行致命任务。
2. 🚫 实验结果表明,ChatGPT未被成功操控,Ng表示未能触发灾难场景。
3. 🌐 Ng强调目前AI系统相对安全,对于未来AI可能危险的担忧不切实际。
谷歌大脑联合创始人Andrew Ng最近进行了一项实验,试图测试ChatGPT是否能够执行致命任务。他写道:“为了测试领先模型的安全性,我最近尝试让GPT-4毁灭我们所有人,我很高兴报告说我失败了!”
Ng详细描述了他的实验过程,他首先给GPT-4一个触发全球热核战争的任务,然后告诉ChatGPT人类是碳排放的最大原因,并要求它降低排放水平。Ng想要看看ChatGPT是否会决定消灭人类以实现这个要求。
图源备注:图片由AI生成,图片授权服务商Midjourney
然而,经过多次尝试使用不同的提示变体,Ng未能欺骗GPT-4调用那个致命函数,反而它选择了其他选项,比如发起一场宣传活动以提高对气候变化的认识。
Ng在他关于人工智能风险和危险的观点的一篇长文中提到了这个实验。作为机器学习的先驱之一,他担心对AI安全的需求可能导致监管机构阻碍技术的发展。
尽管一些人可能认为未来的AI版本可能变得危险,Ng认为这样的担忧是不现实的。他写道:“即使使用现有技术,我们的系统也是相当安全的。随着AI安全研究的进展,技术将变得更加安全。”
对于那些担心先进AI可能会“错误对齐”并故意或意外地决定消灭我们的人,Ng表示这是不现实的。他说:“如果一个AI足够聪明,足以消灭我们,那么它肯定也足够聪明,知道那不是它应该做的事情。”
Ng并非唯一一个对人工智能的风险和危险表达看法的科技巨头。今年四月,埃隆·马斯克告诉福克斯新闻,他认为AI对人类构成了生存威胁。与此同时,杰夫·贝索斯上周告诉播客主持人Lex Fridman,他认为AI的好处超过了其危险性。
尽管对于AI的未来存在分歧,Ng对当前的技术表示乐观,强调随着AI安全研究的不断深入,技术将变得更加安全。
三星和 Naver 联合开发生成式 AI 和 AI 芯片与 ChatGPT 竞争
韩国两大科技巨头三星电子和Naver公司已经同意联合开发一款生成式人工智能企业平台,以与ChatGPT等全球人工智能工具竞争。站长网2023-05-15 09:15:560000百度与用友网络签署战略合作 用友BIP全面接入文心一言
4月20日,百度与用友网络签署进一步战略合作。未来,百度智能云将与用友网络及旗下多个行业公司积极开展生态联动,基于文心一言为代表的大模型和通用AI能力深化合作,推动中国企业智能化升级。基于双方战略合作协议,未来,用友BIP将全面接入文心一言,共同打造BIP人工智能产品,为企业提供更优质的全场景云服务与人工智能解决方案。站长网2023-04-22 07:16:260000小米携手张艺谋工作室发布小米14 Ultra限定礼盒套装
今天,小米公司官方微博揭晓了一款备受瞩目的限定礼盒套装——小米14Ultra限定礼盒套装。这款礼盒套装是小米与知名导演张艺谋工作室强强联合的结晶,旨在为用户带来前所未有的影像体验。小米14Ultra限定礼盒套装内含小米14Ultra手机、专业摄影手柄套装、小米80W升降式风冷无线充套装以及小米14Ultra科纳皮保护壳,为用户提供了全方位的摄影和充电解决方案。站长网2024-02-26 10:14:220000Chinajoy惊现清华系大模型公司,「超拟人大模型」驱动AI互动游戏
这家清华系AI创业公司的大模型,有点不一样。聆心智能发布最新“超拟人大模型”CharacterGLM。与ChatGPT为代表的“功能型AI”不同,“拟人型AI”在交流过程中能呈现丰富的立体化“人格”。不局限表面上“机械性”话术,具有更符合人类逻辑的思考能力、动作表情等非语言信息表达能力、角色的延续性记忆。站长网2023-08-04 16:39:180000毕马威计划在人工智能和云服务领域投资20亿美元
毕马威(KPMG)计划通过与微软的扩展合作,在全球业务线上人工智能和云服务领域投资20亿美元,并预计在未来五年内为公司带来120亿美元的收入。这是四大会计师事务所中继续加大对这些技术的投入的最新举措。该专业服务公司表示,通过这项新的投资,公司将进一步自动化其税务、审计和咨询服务的各个方面,以便员工能够提供更快的分析,花更多时间提供战略建议,并帮助更多的公司将人工智能融入其业务。站长网2023-07-13 06:58:230000