OpenAI 采用新方法训练 AI 模型 以应对人工智能产生的「幻觉」
OpenAI 于当地时间周三宣布,他们正在采用一种新的方法来训练人工智能模型,以应对人工智能产生的「幻觉」。
此项研究的推出正值 AI 系统产生的错误信息比以往任何时候都更加引发热议,尤其是在生成式 AI 蓬勃发展的同时,以及 2024 年美国总统大选临近之际。
去年,OpenAI 发布了由 GPT-3 和 GPT-4 驱动的 ChatGPT 聊天机器人,加速了生成式 AI 的繁荣,并在两个月内吸引了 1 亿多月活跃用户,据说创下了最快增长应用的纪录。迄今为止,微软已向 OpenAI 投资超过 130 亿美元,而该初创公司的估值已达到约 290 亿美元。
AI「幻觉」发生在像 OpenAI 的 ChatGPT 或 Google 的 Bard 这样的模型中,它们完全杜撰信息,表现得像在陈述事实。例如,在 Google 自己二月份的 Bard 宣传视频中,该聊天机器人对于詹姆斯·韦伯太空望远镜提出了不实的说法。最近,ChatGPT 在纽约联邦法院的一份文件中引用了「虚假」案例,参与的纽约律师可能面临制裁。
OpenAI 的潜在新策略是:训练 AI 模型在得出答案时,为每个正确的推理步骤奖励自己,而不仅仅是奖励正确的最终结论。研究人员称这种方法为「过程监督」,与「结果监督」相对,可以带来更好的可解释性 AI,因为该策略鼓励模型遵循更符合人类「思维」方式的链式推理。
OpenAI 的数学研究员卡尔·科布(Karl Cobbe)告诉 CNBC 说:「检测和减轻模型的逻辑错误或幻觉是建立符合人工智能的通用智能(AGI)的关键步骤。」他指出,尽管 OpenAI 并非发明了过程监督方法,但该公司正在推动其进展。他还表示:「这项研究的动机是解决幻觉问题,以使模型更能够解决具有挑战性的推理问题。」
Cobbe 说,OpenAI 已经发布了一个附带的数据集,其中包含 800,000 个人类标签,用于训练研究论文中提到的模型。
电子隐私信息中心高级顾问兼人工智能和人权项目负责人本·温特斯 (Ben Winters) 表示怀疑,他告诉 CNBC 他想检查完整的数据集和随附的示例。
虽然 OpenAI 的论文是否经过同行评审或其他形式的评审尚不清楚,但布朗大学技术责任中心主任 Suresh Venkatasubramanian 告诉 CNBC,他认为这项研究更像是初步观察而已。他补充说:「由于大型语言模型的整体不稳定性,这需要在研究界进行验证,才能对此提出确定性的结论。」
这位研究中的负责人 Karl Cobbe 透露,公司「可能会将论文提交给未来的会议进行同行评审」。对于 OpenAI 是否计划将这一新策略应用于 ChatGPT 和其他产品,该公司未回应 CNBC 的置评请求。
AI Now Institute 的执行董事 Sarah Myers West 告诉 CNBC:「当然,可以看到公司正在尝试调整其系统的开发,以减少这些错误。我认为关键在于将其解释为企业研究,考虑到存在更深层次的问责制障碍。」
West 补充说:「本文提供了人类级别反馈的小型数据集,但它没有提供有关用于训练和测试 GPT-4 的数据的基本细节。因此,在人们处于模型直接影响下的情况下,仍然存在着巨大的不透明度,这是人工智能领域任何有意义问责工作面临的一项挑战。」
终于!马斯克 Neuralink 获得 FDA 批准,可首次进行人体实验
去年12月,马斯克曾放话:预计脑机接口公司Neuralink将在6个月后,进行大脑芯片的人体试验。彼时,回想起这些年来马斯克在特斯拉、SpaceX上不断“画饼”的行为,许多人对于“6个月”这个说法,不过笑笑而已——可没想到,这个Flag居然真的成了!本周五,Neuralink官方激动发推:“很高兴地告诉大家,我们已获得FDA的批准,可以启动我们的首次人体临床研究!”站长网2023-05-27 10:11:200001Instagram 推出定制AI贴纸和滤镜 功能强化创作者体验
Instagram近日推出一系列新功能,进一步优化创作者在平台上的体验。最引人瞩目的就是支持用户利用AI技术为故事和短视频制作定制贴纸的新功能。图片来源:Instagram通过Meta自主研发的图像分割AI模型,用户可以选择图片中的任意物体生成贴纸。操作过程与苹果iOS16中推出的图像剪切功能类似,用户可以手动调整剪切范围。制作完成后,定制贴纸可以在发布内容时使用。站长网2023-11-16 11:32:450000OpenAI CEO亲自示范!自定义指令上手攻略,调教专属定制化AI助手
【新智元导读】OpenAI推出了ChatGPT的自定义指令功能后,似乎没有收到用户们的热情回应,Altman本人都下场亲自教大家使用。小编也来实测一波,希望给大家一些启发。可能是感觉到刚推出的自定义指令(CustomInstructions)功能没有引起太多的讨论,Altman亲自发推来指导大家该怎么用。站长网2023-08-01 16:52:210003小度青禾学习手机开启预售到手价 1499 元:搭载 AI 学习大模型
百度旗下小度品牌日前推出首款智能手机「小度青禾学习手机」,主打青少年学生用户,内置定制系统,搭载AI学习大模型,支持家长远程控制。今日小度青禾学习手机正式开启预售,定金100元,到手价1499元。据介绍,小度青禾学习手机拥有专为青少年定制的系统,搭载小度灵机大模型,包含AI拍照讲题、中英文AI作文专业辅导、AI口语练习等学习指导等功能。站长网2023-05-22 09:17:560000阿里达摩院发布多癌影像分析通用模型
阿里达摩院发布了一款多癌影像分析通用模型,可以检测、分割和诊断八种主要的高发致死癌症。这个模型通过使用MaskTransformer语义分割和肿瘤表示学习方法,解决了多种肿瘤图像统一检测的难题,适用于肺、结直肠、肝、胃、乳腺、食管、胰腺和肾等癌症类型。站长网2023-08-17 09:06:540000