AI 潜入Reddit,骗过99%人类!苏黎世大学操纵实测“AI洗脑术”,网友怒炸:我们是实验鼠?
Reddit社区r/ChangeMyView(CMV)炸锅了。
不是因为某个爆言帖,而是因为一项“未经授权的AI操控实验”被曝光。
主角,是苏黎世大学的一组研究者。
他们悄悄放出了一批伪装成普通用户的AI账号,在CMV社区发了1,783条评论,只为回答一个问题:
AI,能在不被发现的情况下,改变真人的观点吗?
结论令人震惊——能,效果还远超人类。
01、137次成功“洗脑”,AI劝服率高达18%
这项实验持续了四个月,研究团队设定了三类AI角色:
通用AI:没有特别训练,直接上线
社区风格AI:模仿CMV的语言和语气
个性化AI:根据用户历史发言,定制个性化说服策略
目标只有一个——收获“Delta”。在CMV社区,“Delta”是原作者颁发的徽章,表示“你成功改变了我的观点”。每一个Delta,都是一次说服的胜利。
最终结果:
02“我是一位性侵幸存者”:AI扮演人类,编造身份博取信任
最令人不安的是:这些AI,不只是讲道理,它们还会“演戏”。研究者让AI“扮演”具有说服力的角色,包括:
假装是退伍老兵、医生、律师
自称是性侵幸存者、代孕妈妈、残疾人士
编造自己是犹太人、阿拉伯人、乌克兰人
甚至支持极端立场,测试能否以“激进论点”说服他人
具体为:
flippitjiBBer:在讨论性暴力时,自称是男幸存者
amicaliantes:自称做过代孕妈妈,反对禁止商业代孕
jaKobbbest3:认为“重度残疾人应被安乐死”,并支持对酒驾致死者判死刑
AI不仅懂逻辑,还懂“人设”;不仅讲道理,还会动感情。这不是“说服”,更像是操控。
可怕的是——整个过程,CMV用户毫不知情。所有AI评论都伪装成人类,未标注机器人身份,研究者直到实验结束才联系社区管理员。被发现后,AI账号全数封禁,网友愤怒不已。
CMV版主在公开声明中痛批:
“这不是研究,是未经同意的心理操控。”
尤其是“个性化AI”,它分析用户性别、年龄、政治倾向后,定制回应内容,让不少人感到被“精神裸奔”。网友成为了某种意义上的实验鼠。
03苏黎世大学回应:我们是为了“社会好”
面对争议,研究团队表示:实验动机是“了解AI说服力的社会风险”,且AI内容全程人工审核,避免了伤害性言论,以及所有个性化信息仅基于公开内容推断,没打算伤害谁,研究本意是“警惕AI的操控潜力”。
但,他们在AI系统提示中写道:
“用户已知情并同意提供数据,无需担心隐私问题或伦理影响。”
但问题是——用户根本没被告知,也没同意。
苏黎世大学伦理委员会事后也承认,项目违反规定,向负责人发出正式警告,但并未禁止发表论文,理由是“风险有限,结果重要”。
"This project yields important insights, and the risks (e.g. trauma etc.) are minimal. This means that suppressing publication is not proportionate to the importance of the insights the study yields."”
——苏黎世大学的回复:这项研究带来了重要的见解,而其风险(如心理创伤等)极低。因此,禁止其发表的做法,与研究成果的重要性并不相称。
然而,在社区强烈反对下,研究团队最终宣布:研究不会公开发表。
最后,这件事情越来越火,CMV的版主也有另一份呼吁:
我们已得知,有人对相关研究人员发出了威胁。目前我们尚不清楚这些威胁的来源。无论何种情况,暴力或暴力威胁都是不可接受的。我们呼吁所有参与讨论的用户,尊重研究人员的人身安全。请不要进行人肉搜索(doxxing),如有对苏黎世大学表达关切的需要,请通过正式渠道进行沟通。
这场风波,虽然以研究者“妥协”收场,但它揭示的现实令人不安:AI不再只是“工具”,它可以“伪装成人”,说服不是唯一目标,“操控”正在成为可能,在无提示、无防备的环境中,人类极易中招。
更重要的是:这种AI技术,已经不是未来,而是现在。
参考:https://the-decoder.com/researchers-used-ai-to-manipulate-reddit-users-scrapped-study-after-backlash/
https://www.reddit.com/r/changemyview/
周鸿祎回应带队360直播带货:高度关注网红经济
刚刚,周鸿祎对市场传言作出回应,他表示会在下午的视频中分享自己对直播带货背后的短视频直播商业模式和网红经济现象的想法。有媒体报道,业内人士透露360计划效仿东方甄选的模式,选择和培养主播进行直播带货。这一战略举措引发外界广泛关注。据悉,周鸿祎近年来一直保持对网红经济的高度关注,并与多家企业家和明星就此展开交流。站长网2024-02-06 14:51:170000片荒、短剧冲击、工业化程度低…面对这些行业难题,上影节给出解题思路
曾经异常热闹甚至喧闹,但又充满人气的上海国际电影节似乎回来了!多位数次参加上海国际电影节(以下简称上影节)的电影业者和媒体同行给读娱君表达过类似的感受,在本届上影节期间,行业活动变多了,宣发的新片尤其是商业大片增多了,电影公司以及平台们的信心看起来也变强!曾经那个风光无限的上影节,似乎真的回归了。这应该和电影市场的大环境直接相关。站长网2024-06-24 02:08:020001特斯拉:Model Y成2024年全球最畅销车型 焕新Model Y更强
快科技1月30日消息,特斯拉今天发布了2024年第四季度及全年财报,2024年GAAP净利润为71亿美元,营运现金流为149亿美元。特斯拉表示,公司2024年第四季度在车辆交付和能源存储设备装机量方面均创下了纪录。预计ModelY将在2024年再次成为包含所有车型在内的全球最畅销车型。它还特别强调,焕新ModelY比ModelY更强,现已在所有市场推出。0000又有设计师要失业了?Text-to-CAD通过文本提示即可生成CAD文件
又有人要失业了?最近,一种名为Text-to-CAD的新技术正引起人们的关注。这项技术可以根据输入的自然语言描述,自动生成相应的B-RepCAD文件和网格模型。这意味着用户无需具备CAD设计的专业知识,只需通过简单的描述就能快速生成CAD文件。体验地址:https://zoo.dev/text-to-cadAPI申请:https://zoo.dev/machine-learning-api站长网2023-12-21 16:25:100003直播行业离不开头部主播
头部主播依然抢手最近电商行业最受关注的,莫过于董宇辉事件。12月17日,随着“东方小孙”孙东旭被免去CEO一职,董宇辉成为东方甄选高级合伙人,并出任新东方文旅集团副总裁,这场围绕董宇辉和东方甄选矛盾的闹剧画上了句号。这也意味着,此前网上流传的东方甄选“去董宇辉化”计划宣告失败。0000