报告称人工智能与核武器相比可能导致人类灭绝
站长网2024-03-12 12:06:100阅
**划重点:**
1. 🚨美国 政府委托报告指出,快速发展的人工智能可能通过武器化和失控导致人类灭绝,呼吁政府迅速采取行动。
2. 🌐 报告建议制定临时人工智能安全措施,并将其国际化,包括对人工智能计算能力设定限制、强制公司在超过一定阈值时取得政府许可,并考虑禁止公开发布强大人工智能模型的工作方式。
3. 🔐 报告还建议加强对人工智能芯片的制造和出口的控制,以维护国家安全。
据《纽约邮报》报道,一份由美国政府委托的报告指出,人工智能的快速发展可能导致人类面临武器化和失控的威胁,政府迫切需要采取行动以避免潜在的人类灭绝。报告称,这一风险类似于核武器的引入,对全球安全造成潜在不稳定。
图源备注:图片由AI生成,图片授权服务商Midjourney
报告名为《提高先进人工智能安全性和安全性的行动计划》,由Gladstone AI Inc.发布,并由《时代》杂志获得。报告建议了一份为期13个月的干预蓝图,期间研究人员与来自美国和加拿大政府、主要云服务提供商、人工智能安全组织以及安全和计算专家等两百多人进行了交流。
行动计划的首要步骤是建立临时的人工智能安全措施,然后将其正式成为法律,并在国际范围内推广。其中一些措施包括成立一个新的人工智能机构,对人工智能的计算能力设定限制,要求公司在超过一定阈值时获得政府许可,并考虑禁止公开发布强大人工智能模型的工作方式,如在开源许可中。
此外,报告还建议政府加强对人工智能芯片的制造和出口的控制,以确保国家安全。这些建议旨在缓解不断增长的人工智能能力通过武器化和失控对国家安全造成的威胁,并减轻这些能力的不断扩散所带来的风险。
政府迫切需要介入,以确保人工智能的发展不会威胁到全球安全,并为此制定全面的国际安全措施。
0000
评论列表
共(0)条相关推荐
施耐德电气通过集成Azure OpenAI推动生成式人工智能解决方案
**划重点:**-🚀施耐德电气与Microsoft合作,通过整合MicrosoftAzureOpenAI,推动生成式人工智能(GenAI)解决方案,提高生产力和可持续性。-💡GenAI的应用包括ResourceAdvisorCopilot、Jo-ChatGPT、FinanceAdvisor、KnowledgeBot等,为客户和员工提供创新的工作方式和决策支持。站长网2023-11-14 18:02:430000DeepMind发布自监督扩散模型SODA
GoogleDeepMind昨天发布的一项研究展示了一项引人注目的技术,尽管其中的技术细节可能需要深入理解,但总体来说,通过一系列操作,可以以无监督的方式精准控制扩散模型,从而实现风格和内容的分离,以及合成物品的3D视图等功能。论文地址:https://soda-diffusion.github.io/站长网2023-12-01 12:16:310000LLM能否自我评估安全性?RAIN:一种无需微调即可改善AI对齐和安全防御新方法
文章概要:1.大型语言模型(LLM),如GPT-3,通过自我评估和改进方法(RAIN)能够满足人类需求,无需额外数据和微调。2.RAIN方法具备广泛适用性,适用于多种语言生成任务,无需额外模型或数据存储,且无需依赖标记数据或训练。3.RAIN通过自我评估提高LLM的性能,降低对敌对攻击的成功率,为AI生成更协调和安全的响应。站长网2023-09-18 10:53:170000Windows 12继续免费升级!不会搞云订阅
按照目前的迹象,微软下一代操作系统,也就是传闻中的Windows12,大力集成AI、云功能。近日有传闻称,Windows12可能会改为云订阅收费,按照月度、年度之类的付费,一如很多云服务,一如Windows365。站长网2023-10-18 21:20:1500002024第一批游戏版号下发 115款国产游戏过审
站长之家(ChinaZ.com)1月26日消息:国家新闻出版署发布了2024年1月份的国产网络游戏审批信息,共有115款游戏通过了审批。在这115款游戏中,超过百款是手机游戏,这表明手机游戏在国产网络游戏市场中占据了相当大的份额。0000