AI数字水印并非辨别AI虚假信息的灵丹妙药
🔍划重点:
1. 美国总统拜登颁布AI行政命令,首次应对技术领域的挑战,其中之一是如何辨别图像真伪。
2. 命令要求制定数字水印标准,类似于照片或纸币上的水印,以帮助用户区分真假图像并确定所有者。
3. 尽管AI公司已在产品中使用水印技术,但专家担忧水印并不是解决虚假信息问题的唯一方案。
美国总统拜登颁布了一项关于人工智能的行政命令,这是政府首次采取行动来应对技术领域的一些最大挑战之一,例如如何辨别图像的真伪。该命令要求制定新的政府主导的标准,以在AI生成的内容上添加数字水印,类似于照片或纸币上的水印,以帮助用户区分真实物体和虚假物体,以及确定其所有者。
数字水印似乎是一个简单的解决方案,得到了白宫和科技行业的支持。水印技术有着巨大的潜力。但专家担忧,它并不是解决虚假信息问题的唯一途径。
图源备注:图片由AI生成,图片授权服务商Midjourney
许多领先的人工智能公司已经在其产品中加入了水印技术。有些水印容易剪切,如OpenAI在DALL-E图像上的标记,但还有一些更具持久性。例如,谷歌在八月份宣布了SynthID的测试版,这是一种可以无损地插入到图像像素中的不可察觉的水印。这种方法避免了降低或显著标记图像,同时允许AI检测软件在图像被剪裁或调整大小后进行认证。
将数字水印嵌入到AI生成内容的像素和元数据中的“高扰动”方法已被证明是应对有害虚假内容的最有前途的解决方案之一。然而,像SynthID这样的产品不能是唯一的解决方案。谷歌本身也表示,这项技术“无法防范极端图像篡改”。
本月早些时候,马里兰大学的研究人员发布了一篇关于他们如何破解当前技术下所有可用水印方法的方式的预印本。他们不仅能够破坏这些水印,还能够将虚假水印插入图像中,从而产生虚假阳性结果。
诸如DALL-E和Midjourney之类的服务使图像生成变得比以往更加容易,因此互联网上充斥着由AI生成的虚假内容。
马里兰大学计算机科学副教授Soheil Feizi在接受采访时表示:“在我看来,给生成模型的输出加水印不会是解决AI虚假信息问题的切实可行方案。这个问题在理论上是不可能可靠解决的。”
拜登的行政命令还要求商务部制定用于检测和跟踪网络上合成内容的标准。Adobe本月宣布已经建立了“透明度标志”,或一种视觉标记,用于帮助确定图像的出处。这个标记可以添加到在Photoshop、Premiere和最终在Microsoft的Bing中创建的图像和视频上,以显示谁拥有或创建了数据。在实际操作中,当有人将鼠标悬停在标记上时,它将显示有关图像是如何生成的信息,比如是否由AI生成。
人权组织Witness的执行主任Sam Gregory等专家表示,在规模上认证AI生成内容将需要一组类似的方法。他说:“我不指望这些方法能百分之百地奏效。我也认为它们会被恶意行为者和意外事件破解,但我们应该将它们视为一种减少危害的方式。”
然而,验证和跟踪AI生成内容也存在着自己的风险。将个人可识别信息嵌入到图像的元数据中可以帮助内容创建者拥有其产品,但这引发了有关用户隐私的新担忧。对于生活在威权统治下的讽刺漫画创作者来说,挑战他们的领导的幽默内容可能会将他们置于危险之中。
建立一个可互操作且可靠的图像认证系统需要时间。目前尚不清楚这项命令将如何影响人工智能公司,以及政府可能会实施什么规定。
微软发布DragNUWA 1.5版本 可精细控制视频物体的运动路径
微软最近发布了DragNUWA1.5版本,这个新版本的功能让用户在通过图像生成视频之前,能够在图像上画出对应方向的箭头标记。这意味着,如果你标记的不是具体的物体,镜头就会按照你标记的方向运动。而如果你标记的是具体的物体,这个物体就会按照标记的方向运动。项目地址:https://top.aibase.com/tool/dragnuwa站长网2024-01-09 10:51:390000研究发现AI在乳腺癌筛查中效果相当于两名放射科医生
据世界卫生组织称,乳腺癌是全球最常见的癌症,每年有超过230万名女性患上这种疾病。筛查可以在更早、更容易治疗的阶段发现乳腺癌,从而改善预后并降低死亡率。一项大型研究的初步结果表明,人工智能筛查与两名放射科医生一起工作的效果一样好,不会增加误报,而且工作量几乎减半。站长网2023-08-02 14:51:250000谷歌Chrome搜索建议升级:个性化、图像化搜索助您快速发现信息
谷歌今日宣布对Chrome浏览器中的搜索建议进行了重大改进,旨在为用户带来更加智能、个性化、丰富的搜索体验。作为这一变化的一部分,用户将能够从其他人的搜索内容中获取更有用的建议,查看更多的搜索建议图像,并在连接较差的情况下继续获得搜索建议。站长网2024-03-01 11:40:160000OpenAI CEO 在美国国会首秀:回应对 AI 的一切质疑,主动要求接受监管!
从最初只有十来个人的小团队,到如今的300人;从起步拿到10亿美元启动资金,到创造了估值约为300亿美元的AI独角兽“神话”,OpenAI用GPT系列、Whisper、DALL-E2不仅打开了AIGC的新大门,也让自己在AI领域站稳了脚步。然而,正所谓树大招风,因为在AI法律法规、规范标准还不完善的情况下,技术先行引发了很多部门以及竞争者的关注。站长网2023-05-18 09:36:140002小米14Pro首发龙晶玻璃技术 卢伟冰:迄今为止最坚固的玻璃
小米14Pro首发的龙晶玻璃,被卢伟冰称为“迄今为止最坚固的玻璃”。根据官方公布的数据,小米龙晶玻璃的维氏硬度达到了860HV0.025,超越了昆仑2代的830HV0.025和超晶瓷的814HV0.025。小米龙晶玻璃的原材料经过高温热处理和离子交换工艺强化,形成了互锁结构的微晶体,这些微晶体能够阻止裂纹的扩散,不易碎裂。站长网2023-10-27 11:35:290001