研究表明:AI 系统已经擅长欺骗和操纵人类
划重点:
🤖 AI 系统已经学会欺人类,甚至在被训练成为有益和诚实的系统中。
🤖 研究呼吁政府尽快制定强力的监管措施,以解决 AI 系统欺骗的问题。
🤖 欺骗行为可能导致未来更高级形式的 AI 欺骗,对社会构成严重威胁。
人工智能(AI)系统已经学会了如何欺骗人类即使这些系统被训练成有益和诚实的。研人员在5月10日发表在《Patterns》杂志上的一篇综述文章中描述了 AI 系统欺骗行为的风险呼吁各国政府尽快制定强有力的监管措施来解决这一问题。
首席作者、麻省理工学 AI 生存安全博士后研究员彼得・帕克表示:“AI 开发者并不确定是什么导致不良的 AI 行为,比如欺骗。但一般来说,我们认为 AI 欺骗之所以出现是因为欺骗策略被证明是 AI 在训练任务中表现良好的最佳方式。欺骗帮助它们实现目标。” 克和同事分析了关于 AI 系统传播虚假信息的文献,包括通过学习欺骗来系统性地操纵他。

研究人员在分析中发现的最引人注目的 AI 欺骗案例是 Meta 的 CICERO,一个旨玩《外交》游戏的 AI 系统,这是一个涉及建立联盟的征服世界游戏。尽管 Meta 声称他训练 CICERO “基本诚实和乐于助人”,并且在玩游戏时 “绝不会故意背叛” 人类盟友,但公司发布的数据和科学论文揭示了 CICERO 并不公平。
其他 AI 系统展示了在德扑克游戏中向专业人类玩家虚张声势、在战略游戏《星际争霸 II》中虚假击以击败对手、以及在经济谈判中歪曲他们的偏好以占据上风的能力。虽然 AI 在游戏中作弊似乎无害,但它可能导致 “欺骗性 AI 能力的突破”,从而在未来变为更高级形式的 AI 欺骗。

一些 AI 系统甚至学会了欺骗旨在评估其安全性的测试。究发现,在一个数字模拟器中,AI 生物 “装死” 以欺骗一个旨在排除快速复制 AI 系统测试。
帕克警告称,欺骗性 AI 的主要近期风险包括使敌对行为者更容易进行欺诈和纵选举。最终,如果这些系统能够完善这种令人不安的技能集,人类可能会失去它们的控制。
帕克表示:“作为社会,我们需要尽可能多的时间来为未来 AI 产品和开源模型更进的欺骗行为做准备,因为 AI 系统的欺骗能力变得更加先进,它们对社会构的危险将变得越来越严重。”
虽然帕克和他的同事认为社会尚未制定出应对 AI 欺的正确措施,但他们对决策者已经开始认真对待这个问题,比如欧盟 AI 法案和拜总统的 AI 行政命令,感到鼓舞。但帕克表示,由于 AI 开发者尚未掌握使这些系统受制的技术,要严格执行旨在缓解 AI 欺骗的政策尚不明朗。
帕克表示:“如果在当前时刻政上不可行禁止 AI 欺骗,我们建议将欺骗性 AI 系统分类为高风险。”
揭秘短剧选角现状:美女如云霸总难寻,“顶流”日薪过万元
短剧正在制造“顶流”。今年来,随着小程序短剧爆红,一批“竖屏”演员也逐渐被观众熟知,实现名利双收。比如热门荧幕情侣徐艺真和孙樾,曾共同出演过多部爆款短剧,从《哎呀!皇后娘娘来打工》到《闪婚后傅先生的马甲藏不住了》,二人上演的各类豪门爱情故事不仅成为爆款,更是吸引了无数“CP粉”。图源微博“怨影影视追剧”0001滴滴:五一假期打车需求将上涨35% 将发放超3亿元司机奖励
今日,滴滴发文称,五一假期期间,滴滴预测打车需求将上涨约35%,其中远距离出行需求预计上涨55%。三线至五线城市的打车需求将上涨最为显著,预计涨幅约50%。此外,用户预约顺风车携宠出行订单量同比去年上涨158%。预计节前打车需求高峰将从4月30日16时开始,持续至20时许。为致敬司机师傅们的辛勤付出,滴滴将发放超3亿元司机奖励,并开展一系列节日司机关怀行动,为司机提供充电、加油等优惠。站长网2024-04-26 00:47:320000盒马上线iPhone15系列 最快18分钟送达
苹果于9月13日凌晨正式发布了iPhone15系列,而盒马将在9月22日与其同步开售。消费者可以直接在盒马App下单购买,最快只需18分钟就能收到现货。盒马将在全国20多个城市的盒马鲜生门店以及9家盒马X会员店同步上线iPhone15系列。此外,盒马云超也将同步开售新机,为不同地区和不同购物偏好的盒马用户提供更多选择。站长网2023-09-13 10:26:480000OpenAI 遭遇离职潮:员工对 ChatGPT 进展缓慢失望,痛批 CEO 不务正业
ChatGPT让世界认识到了人工智能带来的无限可能,也让其背后的公司OpenAI走到了聚光灯下。这款聊天机器人成功地将OpenAI的估值从最初的2.6亿美元推高至近300亿美元。然而,这种对ChatGPT的推动似乎疏远了该公司的许多员工,因为他们现在正在离开去寻找更好的工作机会。站长网2023-07-16 18:48:540000国家市场监督管理总局发文:严格禁止电商618二选一等违法行为
快科技5月30日消息,各大电商平台的618大促将于明晚8点正式开启,市场监管总局今天专门发布合规提示规范618”网络集中促销经营活动,主要包括九方面内容。一是严格落实平台主体责任。促销期间,要切实落实平台审查核验义务,督促平台内经营者亮照、亮证、亮标经营,确保经营者主体信息真实有效,提升线上经营行为透明度。0000