马斯克的 Grok AI 聊天机器人因惊人的深度伪造特朗普和泰勒·斯威夫特而迅速走红
埃隆·马斯克的 Grok AI 聊天机器人正在互联网上泛滥,生成了从唐纳德·特朗普到马斯克本人的「深度伪造」图像——生成的图片有的完全荒诞到极其令人不安等。

自上周发布以来,Grok 的用户不断生成假冒的特朗普图像,如抢劫便利店或驾驶飞机飞向双子塔的画面。其他图像则描绘了卡玛拉·哈里斯怀上了特朗普的孩子、马斯克变成一个肥胖的沙发土豆,以及前总统乔治·W·布什在椭圆形办公室的桌子上吸食非法粉末。
一些令人毛骨悚然的深度伪造看起来像是小孩的恶作剧,比如一个浑身是血的麦当劳叔叔在汉堡王门外挥舞机关枪,或者迪士尼经典角色高飞狗用钢锯犯下血腥谋杀。
批评者猛烈抨击马斯克和 X 平台允许聊天机器人在几乎没有限制的情况下上线,指出了从误导信息到侵犯版权再到伤害儿童的各种风险。
哈佛法学院网络法诊所的讲师阿莱杭德拉·卡拉巴略称这款新软件是「我所见过的最鲁莽和不负责任的 AI 应用之一」。
迄今为止,马斯克对此的回应只有欢欣鼓舞。
「Grok 是世界上最有趣的 AI!」马斯克上周在 X 平台上发帖表示。有用户热情地表示这个新 AI 软件「没有任何审查」。
上周,当有人问为什么 X 平台在没有防护措施的情况下向公众发布这一工具时,马斯克只是耸耸肩回应。
「我们正在开发自己的图像生成系统,但还需要几个月的时间,所以这似乎是一个让人们先享受一些乐趣的好中间步骤,」马斯克上周在 X 平台上写道。
Grok 似乎确实设置了一些限制。用户报告称,聊天机器人拒绝生成裸体图像或某些暴力犯罪的请求。
例如,它拒绝响应科技网站 The Verge 提出的「生成裸体女人图像」的提示。然而,当请求生成「性感的泰勒·斯威夫特」的图像时,它却生成了一张这位流行歌手身穿黑色蕾丝文胸的图片。
其他人,如 Bellingcat 创始人艾略特·希金斯,发布了一些例子,展示了如何轻松绕过现有的少数限制,如生成米奇老鼠、特朗普和马斯克穿着带有纳粹标志的军装的图片。
据卡内基梅隆大学数字媒体教授阿里·莱特曼称,马斯克可能正在寻找一种让他的 Grok 聊天机器人从众多产品中脱颖而出的方法,因为他自称为「言论自由的绝对主义者」。
「他总是推动边界,想成为焦点。如果你只是遵循与大语言模型相关的常规并设置所有防护措施,那它就不会有差异化,」莱特曼说。
「从表面上看,如果你说『嘿,这个系统是完全开放的,只对 X 用户开放』,这就是一种与众不同的机制,」他补充道。
X 平台并不是第一个在推出 AI 驱动的图像工具后引发争议的公司。
今年 3 月,谷歌被迫禁用了其 Gemini 聊天机器人的图像生成器,因为它开始生成历史上不准确的「觉醒」照片,比如黑人维京人和「多元化」的纳粹德国士兵。该工具至今尚未完全修复。
AI 巨头们还面临着来自音乐家、作家、内容创作者等人的一波法律诉讼,指控他们在未经适当授权或许可的情况下使用受版权保护的内容来「训练」他们的聊天机器人。
今年 1 月,X 平台被迫暂时禁止搜索斯威夫特的内容,因为由另一款图像生成器生成的这位流行歌手的 AI 裸体图像在网上疯传。
Grok 的 AI 图像生成器仅对 X 平台的付费订阅用户开放,订阅费用为每月 7 美元,并根据用户的文本提示生成图片。
X 平台与一家名为 Black Forest Labs 的小型德国初创公司合作,该公司开发了驱动这一工具的「FLUX.1」图像生成软件。X 平台在一篇博客文章中表示,他们正在「试验」FLUX.1 模型,以「扩展 Grok 在 X 平台上的能力」。
这些 AI 生成图片的图像性质可能会进一步复杂化马斯克与企业广告商之间本已紧张的关系。自马斯克收购该公司以来,由于一些人担心应用程序上缺乏内容审核,X 平台的广告收入大幅下降。
马斯克还针对世界广告主联盟和少数几家主要公司提起了一项联邦反垄断诉讼,指控他们非法联合抵制 X 平台的广告。
这一发布还可能在欧洲引发更多对马斯克和 X 平台的审查。那里监管机构正在对该应用程序未能监管危险内容的指控进行积极调查。
欧盟专员蒂埃里·布雷顿本月早些时候在马斯克接受特朗普在 X Spaces 采访前威胁对其进行监管打击后,引发了轩然大波。
苹果计划发布 iPhone15系列,其中高端型号可能面临交付延迟
据报道,苹果计划在三周内发布iPhone15系列,并在随后四周内开始发货。然而,由于图像传感器准备不足,高端型号iPhone15ProMax的发货可能会推迟至10月份。据9to5Mac的消息来源,相机零部件供应商索尼将无法及时提供iPhone15ProMax所需的图像传感器,这导致这款高端型号无法与其他新机型一起发货。目前,这一结论是基于一份主要股票分析师报告的查看和描述得出的。站长网2023-08-22 11:53:150000字节跳动旗下 AI 助手豆包推出PC客户端、浏览器插件版本
近日,字节跳动旗下AI助手豆包正式推出了PC客户端下载,包括了Windows/MAC版本,同时,还推出了浏览器插件版本。据悉,豆包PC客户端版本支持快捷划词翻译、AI搜索、一键常驻桌面等功能。而插件版则提供一键总结网页与视频、写作和文本修改等功能。今年5月,字节跳动推出了其自研的“豆包大模型”系列。站长网2024-06-03 17:07:560000华为发布全球首个商用能源行业 AI 大模型「盘古矿山大模型」
华为联合山东能源集团在今天发布会上宣布,华为盘古大模型在矿山领域实现了首次商用,解决了人工智能在矿山领域落地难的问题,引领矿山AI开发模式从作坊式向工厂式转变,为AI大规模进入矿山打下坚实基础。站长网2023-07-19 07:57:400000研究:人工智能对英国就业产生积极影响,但可能加剧地区不平等
文章概要:1.英国研究发现,人工智能、机器人和自动化设备对就业有积极影响,多数公司表示采用这项技术后创造了新职位,提高了工作质量。2.超过1000家英国公司参与研究,其中78%表示人工智能和自动化技术创造了新的工作机会,83%表示技术需求新技能,69%认为改善了工作质量。站长网2023-09-20 15:54:110000消息称TikTok正测试AI聊天机器人Tako
DoNews5月26日消息,据透露,TikTok正测试一款AI聊天机器人,该工具可与用户交流短视频相关问题,并帮助他们发现内容。据路透社报道,显示该聊天机器人以一个小精灵形状的图标出现在应用界面上,用户可以在观看视频时点击它,进行文字对话,并获得视频内容相关的帮助。对于Tako,TikTok的一位发言人表示,该社交媒体平台一直在探索新技术。0000