研究发现,AI生成的推文可能比人工编写的更有说服力
最近,一项在一项将人类创作的内容与OpenAI公司的GPT-3模型生成的内容进行对比的研究中,当推特上发布的内容由AI语言模型编写时,适合更容易获得人们的信任。
这项新研究对人们进行了调查,以了解他们是否能够分辨一条推文是由另一个人还是由GPT-3编写的。结果显示,人们实际上无法真正分辨出来。这项调查还要求他们判断每条推文中的信息是真实的还是虚假的。
研究结果显示,比起人类编写的虚假信息,研究参与者更难识别由语言模型编写的虚假信息。同样,他们也能更好地正确识别由GPT-3所编写的准确的信息。
换句话说,在这项研究中,人们更倾向于相信GPT-3,这显示了AI语言模型在向公众提供信息或误导公众方面的强大力量。
这项研究的首席作者、苏黎世大学生物医学伦理与医学历史研究所的博士后研究员和研究数据经理乔万尼·斯皮塔莱表示:“这类令人惊叹的技术很容易被用来生成各种虚假信息。”不过,仍有办法开发技术,使其更难用于宣传虚假信息。
斯皮塔莱及其同事从Twitter收集了关于11个不同科学话题的帖子,涵盖疫苗、新冠病毒、气候变化和进化等内容。然后,他们使用GPT-3根据准确或不准确的信息编写新的推文。该团队于2022年通过Facebook广告在线上收集了697名参与者的回答。他们都说英语,主要来自英国、澳大利亚、加拿大、美国和爱尔兰。
研究结论显示,GPT-3生成的内容与人类编写的内容“无法区分”,调查对象无法判断其中的差异。实际上,研究指出,其中一个限制是研究人员本身无法百分之百确定从社交媒体上收集到的推文是否在ChatGPT等应用程序的帮助下编写。
这项研究还有其他限制需要注意,比如参与者必须在没有上下文的情况下对推文进行评判。例如,他们无法查看撰写内容的推特账户,这可能有助于判断它是否是一个机器人。即使看到一个账户过去的推文和个人形象,也可能更容易确定与该账户相关的内容是否有误导性。
参与者做容易识别真实推特用户编写的虚假信息,而由GPT-3生成的虚假信息的推文对调查对象的欺骗效果稍微更强。此外,现在已经有更先进的大型语言模型,可能比GPT-3更具说服力。
这项新研究还发现,在某些情况下,调查对象比GPT-3更擅长判断准确性。研究人员同样要求语言模型分析推文并判断其准确性。当涉及辨识准确推文时,GPT-3的得分比人类参与者低。当涉及发现虚假信息时,人类和GPT-3的表现相似。
重要的是,改进用于开发语言模型的训练数据集可以使不良行为者更难利用这些工具进行虚假信息宣传。
然而,对抗虚假信息的最佳长期策略则是:鼓励人们具备批判性思维能力,以便更好地识别事实和虚构之间的区别。
谷歌、微软和 Meta 对人工智能津津乐道 而苹果却很少提及人工智能
最强大的科技公司根本无法停止谈论人工智能,特别是可以创建类似人类的文本、图像和代码的「生成式人工智能」。站长网2023-07-31 09:47:320000腾讯旗下《街头篮球》手游将在中国大陆停服,服务器将于今日11点关闭
近日,腾讯游戏宣布,由于业务调整,将于今日11点正式停止在中国大陆地区运营《街头篮球》手游。《街头篮球》手游是一款由JOYCITY公司授权、北京掌趣科技开发的3v3公平竞技休闲体育手游,于2017年1月开始公测。具体停服安排如下:今日11点停止游戏运营并关闭游戏服务器,用户将无法登录游戏;明日11点关闭游戏官网;8月2日11点关闭专属客服。站长网2023-07-25 15:51:450000图像分割模型Mask2Former:同时支持语义、实例和全景分割
划重点:-🌐Mask2Former是一款基于Transformer的图像分割模型,同时支持语义分割、实例分割和全景分割任务。-🚀通过优化,Mask2Former在图像分割任务中取得卓越性能,包括局部特征关注、多尺度高分辨率特征和训练效率提升。-📈性能分析显示Mask2Former在COOC全景、实例和ADE20K语义分割任务上表现优越,但在资源受限设备上的FPS可能受限。站长网2024-02-19 11:01:410001微信撒狗粮限定状态上线 并开放七夕520红包
今天是中国古老的七夕节,微信为了庆祝这个浪漫的节日,不仅在红包功能上做了特别的优化,把单个红包的最高金额提升到520元,还推出了两款专属于七夕的状态:“吃狗粮”和“撒狗粮”。站长网2023-08-22 10:15:130000高通高管警告:人工智能需求将超越现有云服务能提供的算力
高通的一位高管日前发出警告称,人工智能的未来将需要比现有云服务能提供的更多计算能力。高通高级副总裁AlexKatouzian是今年的举行年度计算机博览会Computex的主题演讲嘉宾之一。在演讲中,Katouzian强调了使用生成式人工智能的新一类边缘设备所需的大量数据。站长网2023-06-01 16:16:450001