OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺
近日,OpenAI、谷歌、微软和智谱AI等来自不同国家和地区的16家公司,在“人工智能首尔峰会”(AI Seoul Summit)上共同签署了前沿人工智能安全承诺(Frontier AI Safety Commitments)。这一承诺标志着AI开发领域的一次重大进展,旨在加强AI技术的安全性和透明度。

图源备注:图片由AI生成,图片授权服务商Midjourney
1. 承诺要点
确保前沿AI安全的负责任治理结构和透明度基于人工智能安全框架,负责任地说明如何衡量前沿AI模型的风险建立前沿AI安全模型风险缓解机制的明确流程图灵奖得主Yoshua Bengio认为,这一承诺的签署是建立国际治理制度以促进人工智能安全的重要一步。OpenAI全球事务副总裁Anna Makanju也表示,这一承诺是推动先进AI系统安全实践的重要一步。
2. 背景与动因
近期,OpenAI联合创始人、首席科学家Ilya Sutskever与OpenAI超级对齐团队共同领导人Jan Leike相继离开OpenAI。Leike在X发布帖子,批评OpenAI忽视安全问题。这一事件在业界引发广泛关注,凸显了当前AI安全问题的严峻性。
5月21日,图灵奖得主Yoshua Bengio、Geoffrey Hinton和姚期智等业内专家在《Science》期刊上刊文,呼吁世界各国领导人采取更有力的行动应对AI风险,警告AI的无节制发展可能导致生命和生物圈的大规模损失。
作为中国的大模型公司,智谱AI也签署了前沿人工智能安全承诺。智谱AI在顶会ICLR2024上分享了他们的AI安全具体做法,强调了超级对齐技术在提升大模型安全性方面的重要性。智谱AI透露,其GLM-4V模型内置了安全措施,以防止有害或不道德行为,保护用户隐私和数据安全。
5月22日,欧盟理事会正式批准了《人工智能法案》(AI Act),这是全球首部AI全面监管法规,将于下月生效。这部具有里程碑意义的法案采用“基于风险”的方法,规定对社会造成更高风险的AI技术需要遵守更严格的规则,对违反规定的公司将处以严厉罚款。
比利时数字化大臣Mathieu Michel表示,这一法案是世界上第一部此类法规,旨在解决全球性技术挑战,同时为社会和经济创造机遇。
总结
AI安全问题正在全球范围内引起广泛关注。从企业到政府,各方都在采取措施预防和解决AI安全问题。OpenAI、谷歌、微软和智谱AI等公司的前沿人工智能安全承诺,以及欧盟《人工智能法案》的出台,都是为确保AI技术安全发展的重要举措。随着AI技术的不断进步,确保其安全性和透明度将是各方共同努力的方向。
腾讯承认:正与苹果就iOS微信小游戏收入事宜进行谈判
快科技8月15日消息,腾讯日前公布了2024年第二季度的财务数据,由于本土市场游戏收入、小游戏平台服务费等高毛利率收入来源的增长,腾讯Q2毛利同比增长21%至人民币859亿元。需要注意的是,苹果却不乐意了。腾讯首席战略官詹姆斯米切尔在财报电话会议上首次承认,公司正在探索通过苹果的iOS支付系统提供应用内交易的方法,这将使苹果开始从游戏内交易中分成。站长网2024-08-15 21:18:060000特斯拉宣布涨价!雷军:只有特斯拉敢涨价 足见其市场地位
近日,特斯拉中国传出消息,其旗下ModelY车型将在4月1日迎来价格调整,预计售价将上涨5000元人民币。这一消息引发了汽车行业内的广泛关注,特别是同为行业领军人物的雷军对此发表了看法。站长网2024-03-21 23:19:580000谷歌正式推出首款可折叠手机 Pixel Fold:与三星正面竞争
谷歌在其I/O开发者大会上宣布AI聊天机器人Bard全面开放使用及推出了人工智能笔记应用「ProjectTailwind」,并且推出旗下首款可折叠智能手机PixelFold。据介绍,谷歌PixelFold配备7.6英寸主屏幕和5.8英寸外部面板。谷歌称,PixelFold将在美国、英国、德国和日本等国销售,而这款手机将是这些市场中最薄的可折叠手机之一。站长网2023-05-11 09:22:260001微软 OneDrive 将迎来全新升级:Copilot 将为用户提供更多 AI 功能
站长之家(ChinaZ.com)10月8日消息:微软日前宣布将对OneDrive进行更新,旨在使人们更容易访问、查看、分享和管理他们的文件。在本周的在线活动中,被称为「微软OneDrive:文件管理的未来已经来临」,微软公司公布了其在线文件存储服务的计划,其中一些已经对特定用户生效,而其他一些将在今年晚些时候或明年初开始推出。站长网2023-10-08 15:13:410000AI日报:Runway的Gen-3 Alpha正式开放使用;百度文心大模型4.0 Turbo限时免费;英伟达发布直播神器;爆火Character AI惨遭阉割
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解:https://top.aibase.com/1、Runway的Gen-3Alpha所有人都能用了!网友实测效果惊人!比sora还强!站长网2024-07-02 18:11:110002