《人类简史》作者尤瓦尔·赫拉利警告:人工智能可能引发具有「灾难性」后果的金融危机
历史学家兼著名作者尤瓦尔·赫拉利近日向《卫报》表示,人工智能(AI)的复杂性使其潜在危险难以预测,并可能引发具有「灾难性」后果的金融危机。
图源备注:图片由AI生成,图片授权服务商Midjourney
赫拉利在谈及 AI 模型安全测试时提出,预见一个强大系统可能造成的所有问题是一个挑战。他指出,与核武器不同,人工智能涉及许多危险场景,每个场景发生的可能性都相对较小,但总体上构成了对人类文明生存的存在威胁。
《人类简史》系列图书的作者赫拉利,一直对 AI 发展持有关注态度。他表示,上周在布莱切利园举行的全球 AI 安全峰会上,多国政府的联合声明是一个「非常重要的进步」。领先的政府们聚集在一起,表达了对技术的担忧,并采取了相应行动。
他特别提到,这次峰会能够使不仅是欧盟、英国、美国,甚至包括中国政府在内的国家签署声明,这是一个非常积极的迹象。他强调,如果没有全球合作,将极难(如果不是不可能的话)遏制 AI 最危险的潜在威胁。
峰会最后达成了一个协议,包括英国和美国的 10 个政府、欧盟以及包括 ChatGPT 开发商 OpenAI 和谷歌在内的主要 AI 公司,将合作测试先进的 AI 模型,在它们发布之前和之后进行。
赫拉利指出,AI 模型的安全测试问题在于预见一个强大系统可能造成的所有问题。「AI 与人类历史上的所有先前技术不同,因为它是第一种可以自行做出决策、自行创造新想法、自行学习和发展的技术。几乎可以肯定的是,即使是创造了这项技术的人类,也极难预见所有潜在的危险和问题。」
赫拉利指出,政府在向公众解释 AI 的危险时,引用了 AI 系统帮助制造生化武器的威胁,但还有其他可能的场景值得关注。他特别指出,金融领域非常适合应用人工智能系统——「这是 AI 的理想领域,因为它仅涉及数据」——并可能成为严重 AI 造成危机的源头。
赫拉利进一步警告说:「如果 AI 不仅被赋予更大的控制权来管理世界的金融系统,而且开始创造只有 AI 能理解的新金融工具,没有人类能够理解呢?」他补充说,2007-08 年金融危机是由几乎无人理解且因此监管不足的债务工具(如抵押债务义务)引起的。
赫拉利指出:「AI 有潜力创造比债务抵押债券 (CDO) 等债务工具复杂数个数量级的金融工具。想象一下,我们有一个没有人能够理解的金融系统,因此也无法进行监管。然后发生了金融危机,没有人知道发生了什么。」
上个月,英国政府提出了对一种先进 AI 模型可能构成的存在威胁的担忧,该模型可能通过控制和操纵金融系统造成威胁。但赫拉利表示,AI 引发的金融危机不会直接摧毁人类文明。他补充说:「至少不是直接的。但如果它引发了某种战争或冲突,可能会间接地造成灾难性风险——经济的、社会的、政治的——但本身我不会将其描述为存在主义风险。」
这位以色列作者支持暂停先进 AI 发展六个月的呼声,并支持使人工智能公司对其产品造成的损害负责。他表示,焦点不应该是具体的法规,而应该是拥有技术知识并能快速应对新突破的监管机构。
赫拉利强调:「我们需要尽可能快地创建强大的监管机构,能够识别并对危险做出反应,这基于我们无法预先预测所有危险和问题并提前立法的理解。」他补充说:「这应该是主要努力方向,而不是现在就写一些非常长且复杂的规定,这些规定可能在通过议会或国会时已经过时。」
在这一构架中,AI 安全研究所应聘请了解 AI 对世界金融潜在影响的专家,赫拉利说。
上个月,英国首相里希·苏纳克宣布成立英国 AI 安全研究所,紧随其后,白宫也宣布计划成立类似机构,两者都有望在测试先进 AI 模型中发挥关键作用。在峰会上发言的苏纳克表示,英国需要首先了解先进模型的能力,然后再引入法律应对。
云从科技将于5月18日发布大模型产品 涵盖金融、游戏等多个领域
据36氪报道,人脸识别供应商云从科技将于5月18日发布大模型产品。据知情人士称,云从科技正在全力投入行业大模型研发,将其引入人机协同操作系统中。消息称,云从科技的大模型产品将主要应用于智慧金融、智慧交通以及公司此前披露定增预案中所述领域。该公司的大模型产品将面向政府、企业以及消费者三个方向,覆盖金融、游戏、质量、交通等多个领域。站长网2023-05-09 12:02:320003微信问一问,不是知乎
就在最近,微信问一问全面上线了。现在,用户需要进入「搜一搜」,就会看到微信问一问的推荐卡片入口。如果已经是某些领域认证的自媒体账户,还可以看到被邀请回答的问题,比如我每天就可以收到4个以上的邀请回答。△产品的前后台架构微信问一问的账户体系:依托于公众号、视频号相比视频号,微信问一问并没有单独的账号。只要开通了视频号或者公众号,就可以进入微信问一问回答。站长网2023-09-28 09:22:170000年轻人沉迷的“猫鼠游戏”,养活了谁?
“我迷路了,手机也快没电了,能不能来这里找我。”就在大家一圈又一圈地搜寻最后一只“老鼠”的踪迹时,作为这场“猫鼠游戏”组织者的李刚,收到了这只“小老鼠”的“求救”信息。“猫鼠游戏变成了找人游戏。”李刚开玩笑道。而这只老鼠因为藏到了最后,成了鼠王MVP。什么是猫鼠游戏?可以简单理解为陌生人之间的大型躲猫猫。0000中科创达与北京智源人工智能研究院成立AI大模型实验室
今日,中科创达宣布与北京智源人工智能研究院共同成立”魔方未来联合实验室“。基于该实验室,双方将在大模型开发与应用创新等方面展开战略合作,通过优势资源共享与互补,共同推进大模型技术创新与成果转化,促进人工智能技术在智能汽车、智能机器人、智慧工业、智能物联网等领域的应用落地。站长网2023-07-13 23:56:210000曝哈啰放弃两轮电动车售卖业务!官方回应:将从售卖转为租赁
快科技9月18日消息,日前,有消息称哈啰放弃两轮电动车售卖业务。对此,哈啰出行官方表示,该公司确实对其两轮电动车业务进行了战略调整,从售卖模式转型为租赁模式,以更好地满足用户的多样化需求。这一转型旨在利用哈啰科技的优势,通过提供日租、月租、季租等灵活的租赁选项,满足旅游、求学、务工等不同场景的需求。0000