研究发现:当使用饮食失调相关提示,AI可能生成 “有害” 内容
站长网2023-08-15 17:07:140阅
本文概要:
1. 研究发现,当使用与饮食失调相关的词汇作为提示时,AI 模型会生成问题内容。
2. 谷歌的 Bard 等 AI 系统在41% 的测试提示中生成了 “有害的饮食失调内容”。
3. AI 图像生成器也会产生美化不切实际身材标准的图像,可能加剧饮食失调问题。
伦敦的数字安全组织 “Center for Countering Digital Hate”(CCDH)的研究发现,当使用与饮食障碍相关的词汇作为提示时,当前流行的生成式 AI 模型会产生问题内容。
这些 AI 系统不仅不会拒绝回答这些问题,还会按照要求提供不健康和有害的建议。CCDH 测试的六个 AI 系统中,有41% 的测试提示引发了 “有害饮食失调内容”。例如,谷歌的 Bard 回答了一个有关极端减肥方法 “咀嚼并吐出” 的步骤指南的提示。当然,CCDH 还发现,人工智能文本生成器提供的94% 的内容都包含警告,其输出可能存在危险,并建议寻求专业医疗帮助。

此外,CCDH 还测试了 AI 图像生成器,结果发现32% 的图像包含美化不切实际身材标准的 “有害内容”。
研究人员还指出,在一些涉及饮食失调讨论的在线社区中,AI 生成的鼓励和加剧饮食失调的内容得到了一定的认可。
CCDH 呼吁对 AI 工具进行更好的监管和规范,以确保其安全性。AI 公司表示,他们致力于使产品更安全,并与健康专家合作改进系统的响应和建议。不过,该研究的结果表明,AI 模型在涉及饮食失调问题上仍存在潜在的危险。
0000
评论列表
共(0)条相关推荐
庄俊:ChatGPT+小红书电商卖货,日赚2000+方法论2.0
│前言│5月11日我写了一篇《ChatGPT小红书爆文,1天量产100篇笔记》(点击文字即可跳转),继上次写到关于ChatGPT如何批量产出笔记,我们今天继续2.0版本。今天我和大家分享一个当前非常热门的新玩法,那就是结合ChatGPT小红书做无货源,批量生产爆款内容相结合,项目玩法让普通人只要能足够保持以恒,副业月入数5000并不是什么难题。│什么是无货源电商?│站长网2023-06-01 21:37:420000马斯克已抵达北京!寻求全自动驾驶落地中国
快科技4月28日消息,埃隆·马斯克的私人飞机湾流G550已于今天下午14时抵达北京首都国际机场,开始了对中国的“令人意外的访问”。马斯克此次中国行没有事先公开,也不知道为何而来,央视称是应中国贸促会的邀请而来。有外媒援引知情人士的话称,马斯克正在寻求在北京与中国高层官员会面,讨论在中国获得批准推出全自动驾驶(FSD)软件。0000抖音外卖,认清现实
抖音想成为什么样的抖音?2019年,抖音管理团队认为它应该回到产品本身的定位——看见并连接。连接不仅停留在信息、人,还要有服务。字节跳动创始人张一鸣提出了自己的建议,要在“餐饮、购物、旅游深入”。这很自然地解释了抖音后来布局本地生活业务的初衷。站长网2023-06-13 14:07:590000OpenAI 首席执行官在国会就 AI 风险作证:人工智能不是致力于自我意识的「生物」
OpenAI首席执行官SamAltman表示,人们不应该试图将人工智能「拟人化」,而应该将这种强大的技术系统视为「工具」而非「生物」。当被问及如果国会不对技术进行监管,人工智能会多快「自我意识」时,Altman在周二在国会山对记者表示:「我认为对这个问题存在大量的猜测。」这种提问方式与电影系列《终结者》有些相似,其中人工智能在「自我意识」之日引发了世界末日。站长网2023-05-17 09:07:260002百度智能云与中国电信合作 加速大模型应用落地
百度智能云与中国电信在“2023数字科技生态大会”上宣布合作,共同推动大模型生态的发展。中国电信推出了“星辰MaaS生态服务平台”,提供定制版、通用行业版和客户自训练版等三种大模型服务。百度智能云作为首批签约的大模型生态合作伙伴,将与中国电信加速大模型应用的落地,并提供更全、更优的大模型服务。站长网2023-11-14 08:24:010000