《人类简史》作者尤瓦尔·赫拉利警告:人工智能可能引发具有「灾难性」后果的金融危机
历史学家兼著名作者尤瓦尔·赫拉利近日向《卫报》表示,人工智能(AI)的复杂性使其潜在危险难以预测,并可能引发具有「灾难性」后果的金融危机。
图源备注:图片由AI生成,图片授权服务商Midjourney
赫拉利在谈及 AI 模型安全测试时提出,预见一个强大系统可能造成的所有问题是一个挑战。他指出,与核武器不同,人工智能涉及许多危险场景,每个场景发生的可能性都相对较小,但总体上构成了对人类文明生存的存在威胁。
《人类简史》系列图书的作者赫拉利,一直对 AI 发展持有关注态度。他表示,上周在布莱切利园举行的全球 AI 安全峰会上,多国政府的联合声明是一个「非常重要的进步」。领先的政府们聚集在一起,表达了对技术的担忧,并采取了相应行动。
他特别提到,这次峰会能够使不仅是欧盟、英国、美国,甚至包括中国政府在内的国家签署声明,这是一个非常积极的迹象。他强调,如果没有全球合作,将极难(如果不是不可能的话)遏制 AI 最危险的潜在威胁。
峰会最后达成了一个协议,包括英国和美国的 10 个政府、欧盟以及包括 ChatGPT 开发商 OpenAI 和谷歌在内的主要 AI 公司,将合作测试先进的 AI 模型,在它们发布之前和之后进行。
赫拉利指出,AI 模型的安全测试问题在于预见一个强大系统可能造成的所有问题。「AI 与人类历史上的所有先前技术不同,因为它是第一种可以自行做出决策、自行创造新想法、自行学习和发展的技术。几乎可以肯定的是,即使是创造了这项技术的人类,也极难预见所有潜在的危险和问题。」
赫拉利指出,政府在向公众解释 AI 的危险时,引用了 AI 系统帮助制造生化武器的威胁,但还有其他可能的场景值得关注。他特别指出,金融领域非常适合应用人工智能系统——「这是 AI 的理想领域,因为它仅涉及数据」——并可能成为严重 AI 造成危机的源头。
赫拉利进一步警告说:「如果 AI 不仅被赋予更大的控制权来管理世界的金融系统,而且开始创造只有 AI 能理解的新金融工具,没有人类能够理解呢?」他补充说,2007-08 年金融危机是由几乎无人理解且因此监管不足的债务工具(如抵押债务义务)引起的。
赫拉利指出:「AI 有潜力创造比债务抵押债券 (CDO) 等债务工具复杂数个数量级的金融工具。想象一下,我们有一个没有人能够理解的金融系统,因此也无法进行监管。然后发生了金融危机,没有人知道发生了什么。」
上个月,英国政府提出了对一种先进 AI 模型可能构成的存在威胁的担忧,该模型可能通过控制和操纵金融系统造成威胁。但赫拉利表示,AI 引发的金融危机不会直接摧毁人类文明。他补充说:「至少不是直接的。但如果它引发了某种战争或冲突,可能会间接地造成灾难性风险——经济的、社会的、政治的——但本身我不会将其描述为存在主义风险。」
这位以色列作者支持暂停先进 AI 发展六个月的呼声,并支持使人工智能公司对其产品造成的损害负责。他表示,焦点不应该是具体的法规,而应该是拥有技术知识并能快速应对新突破的监管机构。
赫拉利强调:「我们需要尽可能快地创建强大的监管机构,能够识别并对危险做出反应,这基于我们无法预先预测所有危险和问题并提前立法的理解。」他补充说:「这应该是主要努力方向,而不是现在就写一些非常长且复杂的规定,这些规定可能在通过议会或国会时已经过时。」
在这一构架中,AI 安全研究所应聘请了解 AI 对世界金融潜在影响的专家,赫拉利说。
上个月,英国首相里希·苏纳克宣布成立英国 AI 安全研究所,紧随其后,白宫也宣布计划成立类似机构,两者都有望在测试先进 AI 模型中发挥关键作用。在峰会上发言的苏纳克表示,英国需要首先了解先进模型的能力,然后再引入法律应对。
淘宝推出AI大模型应用“淘宝问问” 并开启内测
淘宝推出AI大模型应用“淘宝问问”进行内测,可满足消费者跨类别、跨领域需求及信息搜索、创意内容生成等场景需求。用户可通过淘宝App搜索或邀请码参与测试,但官方未透露全量上线时间。淘宝表示,淘宝问问是淘宝在淘宝App原搜索功能上对电商搜索导购方式进行迭代的创新尝试,旨在结合用户输入,通过深度合成算法为用户提供更符合消费习惯的商品和内容。站长网2023-09-08 15:47:080000AMD、微软和亚马逊等全球人工智能科技巨头排队购买 SK 海力士第五代高带宽内存 HBM3E
全球科技巨头纷纷向SK海力士预定第五代高带宽内存(HBM)HBM3E的样品,紧随英伟达之后。半导体行业消息人士日前报道称,全球各大科技巨头已陆续向SK海力士索取HBM3E样品。该名单包括AMD、微软和亚马逊。站长网2023-07-04 16:18:030005高通将与恩智浦、博世等多家公司联合开发开源RISC-V架构
8月5日消息,据外媒报道,根据一份声明,在高通首席执行官(CEO)克里斯蒂亚诺·阿蒙(CristianoAmon)的领导下,高通将与恩智浦、北欧半导体公司(NordicSemiconductor)、英飞凌和博世合作,开发和推广用于芯片设计的开源RISC-V架构。站长网2023-08-05 19:35:240000首发就敢搞实机演示,这个叫天工的大模型凭什么?
2023年3月14日,GPT-4发布。自那一天之后,就好像打开了潘多拉魔盒一样,各种AI大模型就跟开大会,前后脚地发布。从号称OpenAI杀手的Claude,到比GPT热度还高的AutoGPT,再到国产的文心一言、通义千问等等。这股井喷速度,多少让人有些眼花缭乱了。结果还没歇两天,差评君又遇到了一个非常特殊的参赛选手。站长网2023-05-24 16:18:000001养了一只“爹宝狗”是什么体验?宠博@嘻哈不拆 的生存指南
“嗨~爹地”“嗨~妈咪”伴随着熟悉的开场问候,一只热情粘人的哈士奇奔向它的“爸爸”,随后哈士奇不拆开始“贴贴”、求抱、求玩,和他开启各种互动,这是博主@嘻哈不拆很多视频的经典开头。养了一只“爹宝狗”的宠物博主@嘻哈不拆近日在网络上走红,半年间吸粉超过130W。萌宠赛道成名博主众多,也是伴随着互联网发展最早诞生网红的赛道之一,如@回忆专用小马甲、@郭斯特、@老炭头(@国民老岳父公)等等。0000