登陆注册
12587

《人类简史》作者尤瓦尔·赫拉利警告:人工智能可能引发具有「灾难性」后果的金融危机

站长网2023-11-10 12:02:332

历史学家兼著名作者尤瓦尔·赫拉利近日向《卫报》表示,人工智能(AI)的复杂性使其潜在危险难以预测,并可能引发具有「灾难性」后果的金融危机

图源备注:图片由AI生成,图片授权服务商Midjourney

赫拉利在谈及 AI 模型安全测试时提出,预见一个强大系统可能造成的所有问题是一个挑战。他指出,与核武器不同,人工智能涉及许多危险场景,每个场景发生的可能性都相对较小,但总体上构成了对人类文明生存的存在威胁

《人类简史》系列图书的作者赫拉利,一直对 AI 发展持有关注态度。他表示,上周在布莱切利园举行的全球 AI 安全峰会上,多国政府的联合声明是一个「非常重要的进步」。领先的政府们聚集在一起,表达了对技术的担忧,并采取了相应行动。

他特别提到,这次峰会能够使不仅是欧盟、英国、美国,甚至包括中国政府在内的国家签署声明,这是一个非常积极的迹象。他强调,如果没有全球合作,将极难(如果不是不可能的话)遏制 AI 最危险的潜在威胁

峰会最后达成了一个协议,包括英国和美国的 10 个政府、欧盟以及包括 ChatGPT 开发商 OpenAI 和谷歌在内的主要 AI 公司,将合作测试先进的 AI 模型,在它们发布之前和之后进行。

赫拉利指出,AI 模型的安全测试问题在于预见一个强大系统可能造成的所有问题。「AI 与人类历史上的所有先前技术不同,因为它是第一种可以自行做出决策、自行创造新想法、自行学习和发展的技术。几乎可以肯定的是,即使是创造了这项技术的人类,也极难预见所有潜在的危险和问题。

赫拉利指出,政府在向公众解释 AI 的危险时,引用了 AI 系统帮助制造生化武器的威胁,但还有其他可能的场景值得关注。他特别指出,金融领域非常适合应用人工智能系统——「这是 AI 的理想领域,因为它仅涉及数据」——并可能成为严重 AI 造成危机的源头

赫拉利进一步警告说:「如果 AI 不仅被赋予更大的控制权来管理世界的金融系统,而且开始创造只有 AI 能理解的新金融工具,没有人类能够理解呢?」他补充说,2007-08 年金融危机是由几乎无人理解且因此监管不足的债务工具(如抵押债务义务)引起的。

赫拉利指出:「AI 有潜力创造比债务抵押债券 (CDO) 等债务工具复杂数个数量级的金融工具。想象一下,我们有一个没有人能够理解的金融系统,因此也无法进行监管。然后发生了金融危机,没有人知道发生了什么。」

上个月,英国政府提出了对一种先进 AI 模型可能构成的存在威胁的担忧,该模型可能通过控制和操纵金融系统造成威胁。但赫拉利表示,AI 引发的金融危机不会直接摧毁人类文明。他补充说:「至少不是直接的。但如果它引发了某种战争或冲突,可能会间接地造成灾难性风险——经济的、社会的、政治的——但本身我不会将其描述为存在主义风险。」

这位以色列作者支持暂停先进 AI 发展六个月的呼声,并支持使人工智能公司对其产品造成的损害负责。他表示,焦点不应该是具体的法规,而应该是拥有技术知识并能快速应对新突破的监管机构

赫拉利强调:「我们需要尽可能快地创建强大的监管机构,能够识别并对危险做出反应,这基于我们无法预先预测所有危险和问题并提前立法的理解。」他补充说:「这应该是主要努力方向,而不是现在就写一些非常长且复杂的规定,这些规定可能在通过议会或国会时已经过时。」

在这一构架中,AI 安全研究所应聘请了解 AI 对世界金融潜在影响的专家,赫拉利说。

上个月,英国首相里希·苏纳克宣布成立英国 AI 安全研究所,紧随其后,白宫也宣布计划成立类似机构,两者都有望在测试先进 AI 模型中发挥关键作用。在峰会上发言的苏纳克表示,英国需要首先了解先进模型的能力,然后再引入法律应对。

0002
评论列表
共(0)条