OpenAI、谷歌、微软和 Anthropic联合成立机构监督“前沿人工智能”模型开发
站长网2023-07-27 12:02:250阅
为了响应日益增长的监管呼声,OpenAI、微软、谷歌和 Anthropic 成立了前沿模型论坛,旨在确保 “前沿人工智能” 模型的安全和负责任的开发。该联盟将利用成员公司的专业知识来开发技术评估和基准,并推广最佳实践和标准。

他们认为这类模型对公共安全构成严重风险,具有独特的监管挑战。论坛的目标包括推进人工智能安全研究、确定最佳实践、与政策制定者合作,并支持应对社会挑战的应用程序。具体如下:
新论坛的自定目标包括:
i) 推进人工智能安全研究,以促进负责任的前沿模型开发,最大限度地降低风险,并实现对能力和安全性的独立、标准化评估。
ii) 确定负责任地开发和部署前沿模型的最佳实践,帮助公众了解技术的性质、功能、局限性和影响。
iii) 与政策制定者、学术界、民间社会和公司合作,分享有关信任和安全风险的知识。
iiii) 支持开发有助于应对社会最大挑战的应用程序,例如减缓和适应气候变化、早期癌症检测和预防以及应对网络威胁。
尽管目前只有四名成员,但该团体表示欢迎新成员加入。这一举措旨在向外界展示 AI 行业对安全问题的重视,并试图通过自愿举措来规避即将到来的监管,也许可以为制定规则做一些努力。
欧洲正在推进第一个具体的人工智能法规,旨在将安全、隐私、透明度和反歧视纳入公司的人工智能开发理念。上周,拜登总统在白宫与七家人工智能公司会面,其中包括前沿模型论坛的四个创始成员,以达成自愿保障措施来应对蓬勃发展的人工智能革命。
拜登也表示,未来可能会出现监管监督。拜登当时表示:“通过管理风险来实现人工智能的承诺将需要一些新的法律、法规和监督。” “在未来几周内,我将继续采取行政行动,帮助美国引领负责任的创新之路。我们将与双方合作制定适当的立法和监管。”
0000
评论列表
共(0)条相关推荐
回收式珠宝直播疯狂收割老年人:边哭边播,几十元手串称百万元回收,主播零钱有100多亿
前几日晚11点多,收到70岁大姨的信息:“睡了吗,能给我打一千块不能?”我:“明天吧”大姨:“现在用,买东西”我:“买啥,别被骗了”大姨:“古玩,快手直播间,不用了,完了”0000因谷歌业绩低迷,AI相关公司市值损失1900亿美元
**划重点:**-📉**股市震荡:**在微软和谷歌母公司Alphabet发布令人失望的季度业绩后,AI相关公司股市市值在周二损失了高达1900亿美元。-🤔**投资者谨慎:**技术公司在AI上过度承诺、缺乏明确的盈利路径可能导致投资者对科技公司产生担忧,尤其是在高昂基础设施扩展成本面前。站长网2024-02-01 09:43:410000社交媒体嘲笑谷歌AI失误:人工智能产品质量再遭质疑
近日,谷歌的新人工智能搜索功能引发了一波网络热议。该功能从一个喜剧博客上抓取了一个关于"拿着剪刀跑步"的回答,认为这是一项有氧运动,可以改善毛孔,给人力量。这一失常回答在社交媒体上广为流传,令人啼笑皆非。站长网2024-05-24 11:42:110000Meta研究人员提出轻量级微调方法RA-DIT 以增强语言模型知识检索能力
文章概要:1.RA-DIT通过两阶段调优提升语言模型利用检索信息的能力和检索器提供相关结果的能力。2.RA-DIT在知识密集的零样本和少样本学习基准测试中优于现有检索增强模型。3.RA-DIT65B在需要利用知识的任务中表现显著提升,展现调优带来的效果。站长网2023-10-08 16:06:250000英伟达和 AI 改变芯片行业的格局,竞争对手现在必须奋起直追
随着2023年人工智能技术的迅猛发展,半导体行业格局发生了翻天覆地的变化。Nvidia(英伟达)凭借其在数据中心图形处理器(GPU)市场的领先地位,首次超越了长期占据美国芯片制造商榜首位置的Intel。0000