人工智能与人工智能正在线上评价战场上对抗:「持续的猫鼠游戏」
线上评论战场上,人工智能与人工智能正在对抗。能够生成类似人类评论的生成式人工智能受到专门用于检测虚假评论的人工智能的对抗。这种对抗不仅影响着消费者,还关系着网络内容的未来。
Fakespot 的创始人兼 CEO Saoud Khalifah 表示,该公司已经看到大量生成式虚假评论。Fakespot 正在努力找到一种方法来检测类似 ChatGPT 的人工智能平台生成的内容。
他说:「今天非常不同的是,这些模型可以写任何东西。」
虚假在线评论与真实在线评论一样已经存在很长时间,但由于人们对互联网上广泛使用的先进人工智能技术产生了更广泛的担忧,这一问题变得更加紧迫。
经过多年的案件逐案件执法,上个月,联邦贸易委员会提出了一项新规定来打击虚假评论。如果获得批准,该规定将禁止撰写虚假评论、支付评论、隐瞒诚实评论和其他欺骗性行为,并对违反规定者处以巨额罚款。
但是,到底什么是虚假评论或真实评论变得不那么明确,检测虚假评论的技术仍然在不断改进中。
联邦贸易委员会广告实践部门的律师 Michael Atleson 表示:「我们不知道,也无法知道恶意行为者实际上是否在使用任何这些工具,以及其中有多少是由机器人生成的,而不是由人生成的。」「这真的更多是一个严重的问题,它只是我们担忧的一个缩影,这些聊天机器人将被用来创造各种虚假内容。」
有一些迹象表明,生成式人工智能评论已经非常普遍。CNBC 在 4 月份报道称,亚马逊上的一些评论明显涉及到人工智能,其中许多评论从短语「作为一个 AI 语言模型...」开始。
亚马逊是许多在线卖家中长期以来一直在与虚假评论作斗争的公司之一。一位发言人表示,该公司每周收到数百万条评论,主动阻止了 2 亿条疑似虚假评论。该公司使用人工调查员和人工智能的组合来发现虚假评论,运用机器学习模型分析用户的评论历史、登录活动和与其他账户的关系等因素。
更复杂的是,生成式评论并不完全违反亚马逊的规定。一位亚马逊发言人表示,该公司允许用户发布由人工智能生成的评论,前提是这些评论是真实的,并且不违反政策准则。
这家电商巨头还表示,它可能需要一些帮助。今年 6 月,亚马逊的全球销售合作伙伴服务副总裁 Dharmesh Mehta 在一篇公司博客中呼吁「私营部门、消费者团体和政府」加强合作,解决虚假评论问题。
关键问题是,人工智能检测是否能够胜过生成虚假评论的人工智能。Fakespot 检测到的第一批生成式虚假评论来自印度,几个月前,Khalifah 称这是由「虚假评论农场」生成的,即批量出售虚假评论的企业。生成式人工智能有可能让他们的工作变得更容易。
杜克大学计算机科学助理教授 Bhuwan Dhingra 表示:「这对检测工具来说,的确是一个很难通过的考验。因为如果模型与人类的写作方式完全匹配,你很难区分两者。我不认为有哪个检测器能够很快地通过这个测试。
几项研究发现,人类并不擅长检测由人工智能撰写的评论。许多技术专家和公司正在研究检测人工智能生成内容的系统,其中一些公司,如 ChatGPT 背后的 OpenAI,甚至正在研发用于检测自己人工智能的人工智能。
芝加哥大学计算机科学教授 Ben Zhao 表示,对于 AI 来说,要解决检测人工智能生成的评论的难题「几乎是不可能的」,因为机器人生成的评论往往与人类写的评论无法区分。
他说:「这是一个持续的猫鼠游戏,但从根本上讲,没有什么能够区分人工智能创造的内容。」「你会发现一些系统声称它们可以区分人类写的文本和 ChatGPT 的文本。但与他们试图追赶的东西相比,这些技术都相当简单。」
有 90% 的消费者表示会在网上购物时阅读评论,这让一些消费者维权者担心。
美国公共利益研究组织的消费者监督办公室主任 Teresa Murray 表示:「这对消费者来说是可怕的。」「AI 已经帮助不诚实的企业以与人类相似的语调在几秒钟内产生数千条真实的评论。」
带货七天七夜“重启天涯”?这次直播或难当大任
自从直播和电商沾上了边,直播对于互联网的意义,就在不在只限于娱乐工具。很多失意的企业家把直播视为翻身的途径,很多企业也把直播当做转型的方向。4月底,曾经在中国互联网有着重要地位的天涯社区因为数据中心欠费、服务器被停,和众多网友不辞而别,让人感到遗憾与惋惜。如今,在天涯“瘫痪”半个月后,有一群人想为了情怀,再次让天涯社区复活,而复活的形式就是直播。站长网2023-05-18 18:18:590000小米13官方直降300元:3299元起 支持至高 24 期免息
小米官方宣布,从今天起,小米13手机直降300元,到手价格3299元起,并支持至高24期免息。具体配置上,小米13采用6.36英寸屏幕,支持DC调光以及HDR显示;搭载高通骁龙8Gen2处理器,标配8533Mbps的LPDDR5X内存以及速度高达3.5GB/s的UFS4.0闪存。0002AI人才供不应求 ChatGPT研究员平均月薪6.7万元
快科技12月16日消息,脉脉发布的《2023年度人才迁徙报告》显示,ChatGPT研究员以平均月薪6.7万元位列高薪榜榜首。AI相关岗位人才供不应求,在高薪岗位TOP20中,以ChatGPT研究员、算法、深度学习为代表的AI岗位拥有10席,占了半壁江山。在2023年,互联网、电商等多个行业对人工智能人才展开争夺,纯互联网行业成为新发人工智能相关岗位最高的行业,占比为23.29%。站长网2023-12-16 16:08:040000Arc浏览器发布新空间共享功能 支持通过一个链接分享多个网页组合
Arc发布了新的空间共享功能,用户可以将他们的多个网页组合成一个链接,并与朋友共享。而且,无论接收方是否有Arc浏览器,都可以在查看时保持和你一样的浏览体验,他们看到的文件与你共享时的布局和文件结构相同。站长网2023-10-27 11:44:340001雷军社交账号已修改实名:此前账号为公关部同事帮注册认证
站长之家(ChinaZ.com)1月12日消息:近日,有网友发现雷军在今日头条等平台的社交账号真实姓名为刘伟,引发关注。针对此事,小米集团公关部总经理王化回应称,该账号是公关部同事帮助注册认证的,目前已联系平台进行修改。据了解,刘伟是小米集团CEO的特别助理。随着各大平台推行“前台实名制”,许多大V账号的真实姓名被公开,雷军的账号真实姓名被关注。站长网2024-01-12 15:23:400002