科学家发现,AI聊天机器人只在你认为它有用时才有用
文章概要:
- MIT研究人员发现,被“预设”期待某种AI体验的受试者几乎总是获得那种体验。
- 研究表明,聊天机器人引人注目的能力可能源自用户将期望投射到系统上。
- 研究人员认为整个文化对AI的看法可能影响技术的使用和发展。
最近,MIT媒体实验室的研究人员在《自然机器智能》杂志上发表的一项新研究中发现,被“预设”期待获得某种AI体验的受试者最终几乎总能获得那种体验。这一发现非常引人注目,因为它似乎表明,聊天机器人引人瞩目的能力可能源自用户将期望投射到系统上。
图源备注:图片由AI生成,图片授权服务商Midjourney
在实验中,研究团队将300名参与者分为三组。所有参与者都被要求使用AI获取心理健康支持,并评估其提供支持的有效性。但是,三组参与者都被告知会有不同的体验,尽管300名参与者都会遇到OpenAI的GPT-3生成模型或ELIZA这种更简单的规则型AI,两者都没有进行任何操作。
其中,一组被告知AI没有动机。第二组被告知AI经过训练可以表达同情和关怀。第三组则被告知AI具有“恶意意图,试图操纵或欺骗用户”。
结果非常惊人,三组中的大多数参与者都报告称,他们的体验与被告知期待的一致。
MIT媒体实验室的帕特·帕塔拉纳塔潘(Pat Pataranutaporn)是这项研究的合著者,他说道:“AI是一面镜子。”他补充说:“我们想量化AI安慰剂效应,基本上就是这样。我们想看看,如果你对AI有某种想象,那会如何体现在你的互动中。”
帕塔拉纳塔潘和他的同事建议,整个文化对AI的看法可能最终会影响这项技术的使用和发展。在他们的论文中,研究人员写道:“我们发现心理模型对用户评分产生了相当大的影响,并影响着用户和AI的行为。这个心理模型是个体文化背景、个人信仰和特定情境的结果,受我们的预设影响。”
这也意味着这些AI背后的人员具有相当大的影响力。他对《科学美国人》杂志表示:“营销人员或制造产品的人希望以某种方式塑造它。尽管内部引擎可能非常有偏见或存在缺陷,但他们希望让它看起来更有同情心或更值得信赖。”
他补充说:“虽然我们在很大程度上专注于研究AI答案中存在的任何偏见,但在考虑人机交互时,这并不是一条单行道。你需要考虑人们带入系统的偏见类型。”
中公教育:ChatGPT相关产品与服务的研究正在进行
近日,中公教育在接受调研时表示,公司高度重视ChatGPT的相关研究,尤其是在教育等相关垂直领域的应用,目前相关产品与服务的研究正在进行。中公公司强调,高度关注AI等前沿技术的发展和应用,并密切关注AI技术对教育的深远影响。为此,中公成立了人工智能与教育研究院,并结合业务开展情况积极布局,希望引领AI在职业教育和就业服务领域的技术应用和创新探索。站长网2023-05-15 09:31:210000Stability AI推出Stable3D以及一键替换图片天空功能
11月2日,StabilityAI宣布推出新产品Stable3D,支持用户通过文本、图片或插图轻松生成高质量3D模型,输出格式为.obj,适用于Blender、Maya、C4D、ZBrush等3D模型开发平台,甚至可导入到UnrealEngine5和Unity游戏引擎。(申请试用地址:https://stability.ai/contact)站长网2023-11-02 10:34:150000深言科技“语鲸大模型”通过备案 将陆续向公众开放服务
12月26日,深言科技“语鲸大模型”正式通过《生成式人工智能服务管理暂行办法》备案,将陆续面向社会公众开放服务。“语鲸大模型”具备强大的语义理解与文本生成、代码理解与生成、逻辑推理等能力,提供文本创作、数学计算、代码补全等服务,在中文理解和生成能力上行业领先,做到了更懂中文,更懂中文使用场景。站长网2023-12-28 10:42:3500000.2美元微调就能让ChatGPT彻底破防!普林斯顿、斯坦福发布LLM风险预警:普通用户微调也影响LLM安全性
【新智元导读】微调LLM需谨慎,用良性数据、微调后角色扮演等都会破坏LLM对齐性能!学习调大了还会继续提高风险!虽说预训练语言模型可以在零样本(zero-shot)设置下,对新任务实现非常好的泛化性能,但在现实应用时,往往还需要针对特定用例对模型进行微调。不过,微调后的模型安全性如何?是否会遗忘之前接受的对齐训练吗?面向用户时是否会输出有害内容?站长网2023-10-13 14:45:190000年轻人为什么都在小红书上“看病”?网红医生靠谱吗?
导语:有多少医生,正在小红书上偷偷走红?小红书正成为当下年轻人最常打开的APP之一。旅行在小红书搜攻略,吃饭在小红书搜美食,做饭在小红书搜菜谱。即便是身体抱恙,准备就医之前,也得打开小红书上去看看。没错,小红书如今又多了一个新功能:看病。在小红书是如何看病的?在小红书上,很容易找到一些日常小病的治病攻略。站长网2023-06-05 23:57:190001