OpenAI宣布:如GPT-5太危险,董事会有权否决奥特曼的决定
要点:
OpenAI宣布董事会有权否决决定,特别是对于GPT-5等前沿模型的安全风险,公司成立安全顾问团队,定期向管理层和董事会报告。
公司成立三个安全团队,分别应对当下、不久的将来和遥远的未来的AI风险,主要跟踪网络安全、CBRN风险、说服风险和模型自主性风险。
OpenAI在技术开发上设立了限制,对不同种类的AI风险要求模型安全得分达标后才能进入下一个开发阶段,发布了“前沿风险防范框架”。
OpenAI最近发布了一项重要公告,宣布公司董事会现在有权否决奥特曼的决定,尤其是关于GPT-5等前沿模型的安全风险。这是上月内讧的后续,总裁Greg Brockman和前首席科学家Ilya Sutskever已退出董事会,公司管理层与董事会完全分离,使得公司管理层做决策的同时董事会有权推翻决策。

在新的安全框架下,公司成立了专门的安全顾问团队,每月向管理层和董事会报告,确保决策者充分了解现有模型如ChatGPT的滥用情况。此外,公司对自己的技术开发设立了一系列限制,确保模型安全得分达标后才能进入下一个开发阶段,发布了“前沿风险防范框架”。
为了更全面地应对不同时间尺度的AI风险,OpenAI成立了三个安全团队,分别负责当下、不久的将来和遥远的未来的风险。这些团队涵盖了网络安全、CBRN风险、说服风险和模型自主性风险等四个主要安全类别。对于开发中的前沿模型,公司将跟踪并评估这四个方面的安全风险,通过“记分卡”将其分级为“低、中、高、重大危险”。
值得注意的是,公司还将进行定期的安全演习,对业务和公司自身文化进行压力测试,以及邀请第三方组成红队,对模型进行独立评估。这一系列措施旨在确保模型的安全性,并在风险评估中采取相应的缓解措施。
最后,OpenAI透露已开创一项新的研究,衡量风险如何随模型规模扩大而演变,尝试解决“未知的未知”。这表明公司对AI可能带来的灾难性风险采取了认真的态度,致力于提前预测并防范潜在的问题。
OpenAI 打造媒体管理工具,让内容创作者可以选择退出 AI 训练
划重点:⭐OpenAI正在开发名为媒体管理(MediaManager)工具,让内容创作者可以指定其作品是否纳入AI研究和训练。⭐这一举措是为了回应对OpenAI数据采集方式的批评,同时保护知识产权和创作者利益。⭐除了OpenAI外,其他公司也在努力构建通用溯源和选择退出工具,以应对AI模型训练中的知识产权问题。站长网2024-05-08 21:42:480000爽剧爆火,节点解析200万成本如何24小时创造2000万收益
过去四年时间,很久没有听到“鸡汤女神”咪蒙的消息,一则短剧的火爆,再次引出了背后的昔日鸡汤霸主。近日,主打复仇的古装短剧《黑莲花上位手册》上线后在短时间内上架、下架,引发业内外一片哗然,咪蒙又被动地博了一次眼球。《黑莲花上位手册》是一部主打庶女复仇的古装小程序短剧,讲述了女主角被家中亲人各种折磨后,成功复仇的故事。0001OpenAI 计划为 AI 软件开发应用程序商店:开发者可销售定制 AI 模型
据TheInformation网站周二援引知情人士的消息报道称,OpenAI计划推出一个应用商店,允许开发者在其自家的人工智能技术之上构建的AI模型进行销售。OpenAI是ChatGPT广受欢迎的聊天机器人的开发者。站长网2023-06-21 16:47:500000我在广州,已经骑不起共享单车了
我有点好奇:类似我这样的社畜,到底还有多少人在骑共享单车?似乎互联网的潮水退去,关于共享单车的故事已鲜少有人在意了。而作为普通上班族的我,共享单车依然成为了我日常生活的连结之一。我大概算是个资深的共享单车用户了:从最初的小黄车OFO和橙车摩拜,到现在的仅剩的三巨头——美团单车、哈啰单车和青桔单车;这么7年来,几乎每个工作日,共享单车连结起我在广州的社畜之路。站长网2023-04-14 17:01:150001ofo创始人戴威在美国创业 开设About Time Coffee咖啡连锁店
据凤凰科技消息,ofo小黄车创始人戴威再次开始创业,这次选在美国。他开了一家名为AboutTimeCoffee的咖啡店,已经在纽约市中心的黄金地段开了四家连锁店,售卖冰镇珍珠咖啡。站长网2023-05-16 11:30:530000