人工智能安全研究公司 CEO 称 Rishi Sunak 的全球 AI 安全峰会可能收效甚微
一位受邀参加下个月 Rishi Sunak 国际人工智能安全峰会的高管警告说,这次会议可能收效甚微,并指责强大的科技公司试图「操纵」这场具有里程碑意义的会议。
人工智能安全研究公司 Conjecture 的首席执行官 Connor Leahy 表示,他相信政府首脑准备同意一种监管方式,允许企业继续开发「上帝般」的人工智能,几乎不受限制。
Leahy 是仅有的 100 位受邀者之一,包括外国政府部长、科技高管和民间社会人士,他们受邀参加 11 月在 Bletchley Park 举行的峰会。英国政府希望这次峰会将标志着高级 AI 技术的开发方式发生转变。
官员们已经发布了峰会议程,提到了「负责任的能力扩展」的重要性,即大型科技公司应根据一套指南开发他们的尖端 AI 模型。
然而,Leahy 和其他人认为应该完全停止开发人工通用智能——能够在人类或超越人类智能水平执行任务的 AI 模型。
Leahy 表示:「负责任扩展的主要目标是提供一个看起来好像有所作为的框架,以便政客们可以回家说:『我们已经做了一些事情。』但实际政策什么都没有。」
Leahy 和其他人已经发起了一个名为「Control AI」的运动,敦促政策制定者更进一步,敦促政策制定者进一步利用 Bletchley Park 峰会暂停开发最复杂的人工智能形式。
与行业中的一些其他人一样,Leahy 认为,如果人类开发了一个能够逃避人类控制的 AI 系统,人类将面临风险。
他说:「如果你构建的系统在操纵、商业、政治、科学等各方面都比人类更有能力,而我们无法控制它们,那么未来将属于它们,而不属于我们。」
「特别是人工智能公司和它们周围的其他组织正在试图登上顶峰,锁定一场不受监管的灾难竞赛的现状,」他补充道。
Leahy 引用了 AI 公司 Anthropic 首席执行官 Dario Amodei 最近的一次采访,Amodei 表示,AI 系统「在人类文明规模上出现灾难性错误」的机会在 10% 到 25% 之间。
Leahy 说:「如果你正在构建一个有这种机会的机器,那么我的建议是:不要这样做。」
政府发言人表示,这次峰会是关于 AI 的「全球对话」的开始,将欢迎「多元的观点」。
然而,Leahy 的言论与 AI 领域的其他人最近发出的警告相吻合。
被称为「AI 教父」的 Geoffrey Hinton 最近辞去了谷歌的工作,发出了关于数字智能带来的「生存风险」的警告。
几周后,包括 Leahy 在内的一群 AI 行业的高管发布了一份简短的声明,称「减轻 AI 带来的灭绝风险应该是全球首要任务,与大流行和核战等社会规模的风险并列」。
这些警告促使 Sunak 于 11 月 1 日至 2 日召开峰会。这次峰会旨在成为国家元首和科技高管首次亲自讨论这些问题的论坛。
英国官员一直在全球各地鼓励各国元首参加这次会议,他们希望这将是一系列此类峰会中的第一次。
前谷歌首席执行官 Eric Schmidt 和 Inflection 和 DeepMind 的联合创始人 Mustafa Suleyman 上周呼吁国际领袖设立一个类似于气候变化政府间专门委员会的全球 AI 专家委员会。英国官员表示,他们支持这样一个机构,但认为应该将其运作的具体细节留给联合国的讨论。
相反,英国政府消息人士表示,他们希望看到 AI 行业放慢其人工通用智能的发展,他们表示,这样的举措在技术史上是前所未有的。
然而,Leahy 认为,模糊的承诺继续负责任地开发先进的 AI 将不够,他补充说,这将意味着技术公司胜过监管机构。
政府发言人表示:「AI 安全峰会将汇集各类与会者,包括国际政府、学术界、工业界和民间社会,作为共同合作的一部分,推动安全和负责任的 AI 发展的有针对性、迅速的国际行动。」
「对于这种性质的峰会来说,这是完全正常的,我们不会提前这么长时间确认与会者。这是关于前沿人工智能风险的全球对话的开始,我们欢迎不同的观点——这是峰会的优势。」
小米MIX Fold 3入网:支持67W快充 8月发布
根据3C认证最新数据显示,型号为2308CPXD0C的新机通过了认证,并支持67W快充,预计这款新机很可能就是小米MIXFold3。站长网2023-07-12 15:39:580000剪辑软件未经消费者同意变更为收费 法院:退还会员费
据广州互联网法院消息,近日,广州互联网法院审理了一起因使用剪辑软件在导出视频时收费而引发的网络服务合同纠纷案件。站长网2023-05-18 09:40:380000AI系统能够比人类快1万倍地从卫星图像中绘制巨大冰山地图
**划重点:**-🧊科学家通过人工智能系统在一百分之一秒内准确绘制了巨大冰山的表面积和轮廓。-🌐使用U-net算法,该系统比现有的自动化系统快10,000倍,解决了区分冰山和其他特征的问题。-🚢冰山对极地环境有重要影响,监测对海上安全和科学研究至关重要。站长网2023-11-10 16:29:300000微信从严治理传授恶意投诉非法牟利违规内容
微信发布《关于从严治理传授恶意投诉非法牟利违规内容的公告》称,随着维权和投诉渠道更加多样便捷,以恶意投诉举报牟取不当利益的违法违规行为也层出不穷,甚至在互联网平台出现了以产品质量、食品安全、垃圾短信等作为目标,教唆开展恶意投诉牟取不当利益的“教程”。此类行为涉嫌触碰法律红线,不仅扰乱了正常的市场秩序,而且挤占群众正常维权渠道,使用户的合理诉求无法得到及时处理,引发社会各界高度关注。站长网2023-06-06 16:24:440002科技资产管理公司 Ark Invest认为人工智能投资的机会在于小众领域
近日,专注于科技领域的资产管理公司ArkInvest选定了几家公司作为其“沉睡浪潮”战略的一部分,这些公司在人工智能领域拥有前景可期的投资机会。值得注意的是,著名科技公司如苹果、Alphabet、微软和英伟达等,并未被列入其中。ArkInvest公司特别强调不应认为这些“巨型”科技股将是“人工智能革命”的主要受益者。站长网2023-08-22 12:00:570000