研究发现:当使用饮食失调相关提示,AI可能生成 “有害” 内容
站长网2023-08-15 17:07:140阅
本文概要:
1. 研究发现,当使用与饮食失调相关的词汇作为提示时,AI 模型会生成问题内容。
2. 谷歌的 Bard 等 AI 系统在41% 的测试提示中生成了 “有害的饮食失调内容”。
3. AI 图像生成器也会产生美化不切实际身材标准的图像,可能加剧饮食失调问题。
伦敦的数字安全组织 “Center for Countering Digital Hate”(CCDH)的研究发现,当使用与饮食障碍相关的词汇作为提示时,当前流行的生成式 AI 模型会产生问题内容。
这些 AI 系统不仅不会拒绝回答这些问题,还会按照要求提供不健康和有害的建议。CCDH 测试的六个 AI 系统中,有41% 的测试提示引发了 “有害饮食失调内容”。例如,谷歌的 Bard 回答了一个有关极端减肥方法 “咀嚼并吐出” 的步骤指南的提示。当然,CCDH 还发现,人工智能文本生成器提供的94% 的内容都包含警告,其输出可能存在危险,并建议寻求专业医疗帮助。
此外,CCDH 还测试了 AI 图像生成器,结果发现32% 的图像包含美化不切实际身材标准的 “有害内容”。
研究人员还指出,在一些涉及饮食失调讨论的在线社区中,AI 生成的鼓励和加剧饮食失调的内容得到了一定的认可。
CCDH 呼吁对 AI 工具进行更好的监管和规范,以确保其安全性。AI 公司表示,他们致力于使产品更安全,并与健康专家合作改进系统的响应和建议。不过,该研究的结果表明,AI 模型在涉及饮食失调问题上仍存在潜在的危险。
0000
评论列表
共(0)条相关推荐
抖音商城双11好物节今日正式开启
抖音商城双11好物节活动于10月20日正式开启,持续23天至11月11日结束。活动期间,抖音商城将推出官方立减,单品价格直降15%起,并提供亿级消费券,给消费者实实在在的价格优惠。平台还将在特色品类上推出物流服务,提升消费者购物体验。此外,抖音商城还推出了多种购物玩法,如超级品类日活动、超值购、秒杀频道等,以吸引消费者并助力商家实现销量增长。站长网2023-10-20 14:12:550000微软推M365 Copilot早期访问计划,为澳大利亚机构引入AI生产力工具
文章概要:1.澳大利亚首批机构获得M365Copilot早期访问计划资格,将融合大型语言模型与Microsoft365数据的强大生成AI服务引入其业务。2.金融服务行业看好生成AI,澳大利亚估计在2030年将因采用生成AI而获得经济价值,NAB成为首批采用M365Copilot的机构之一。3.能源、公用事业和建筑领域开始试点生成AI,以提高工作效率。站长网2023-09-18 12:08:320000英伟达爆火智能体研究:AI逼真还原人类情感!会饿会孤独,会跑步会发火
AI智能体,竟然能反映人类的真实情感,还有人际关系中微妙的距离感?最近,来自英伟达、华盛顿大学、港大的研究人员发布了类人智能体HumanoidAgents。从名字就可以看出,这种智能体能够反映人类的基本需求。以往的智能体模拟,智能不完全地模仿人类行为,原因就在于,它们并没有真正反映出人类的基本需求、真实情感及人际间微妙的距离感。站长网2023-10-17 11:17:400000高端手机只有华为硬扛苹果!华为P60系列5月9日海外发布
快科技5月1日消息,没想到华为在五一”假期宣布了新机发布时间,不过面向的是海外市场,产品也是此前在国内首发过的。今日,华为海外账号HuaweiMobile”宣布,将于2023年5月9日在海外发布华为P60系列和多款旗舰产品。官宣后,有海外网友表示,已经在等待了华为新品的发布了。值得一提的是,与国行版P60不同,海外版本预计将搭载EMUI13操作系统,而不是HarmonyOS3.1。站长网2023-05-02 09:27:340000Sam Altman 北京智源大会「AI 安全与对齐」分论坛演讲实录:十年内将出现超级 AI
如何确保越发强大和通用的人工智能系统安全可控,符合人类意图和价值观?这一问题可能是本世纪人类社会面临的最紧迫和最有意义的科学挑战之一。OpenAI联合创始人SamAltman与北京智源人工智能研究院理事长张宏江就此展开对话。站长网2023-06-12 03:42:410001