AI数字水印并非辨别AI虚假信息的灵丹妙药
🔍划重点:
1. 美国总统拜登颁布AI行政命令,首次应对技术领域的挑战,其中之一是如何辨别图像真伪。
2. 命令要求制定数字水印标准,类似于照片或纸币上的水印,以帮助用户区分真假图像并确定所有者。
3. 尽管AI公司已在产品中使用水印技术,但专家担忧水印并不是解决虚假信息问题的唯一方案。
美国总统拜登颁布了一项关于人工智能的行政命令,这是政府首次采取行动来应对技术领域的一些最大挑战之一,例如如何辨别图像的真伪。该命令要求制定新的政府主导的标准,以在AI生成的内容上添加数字水印,类似于照片或纸币上的水印,以帮助用户区分真实物体和虚假物体,以及确定其所有者。
数字水印似乎是一个简单的解决方案,得到了白宫和科技行业的支持。水印技术有着巨大的潜力。但专家担忧,它并不是解决虚假信息问题的唯一途径。
图源备注:图片由AI生成,图片授权服务商Midjourney
许多领先的人工智能公司已经在其产品中加入了水印技术。有些水印容易剪切,如OpenAI在DALL-E图像上的标记,但还有一些更具持久性。例如,谷歌在八月份宣布了SynthID的测试版,这是一种可以无损地插入到图像像素中的不可察觉的水印。这种方法避免了降低或显著标记图像,同时允许AI检测软件在图像被剪裁或调整大小后进行认证。
将数字水印嵌入到AI生成内容的像素和元数据中的“高扰动”方法已被证明是应对有害虚假内容的最有前途的解决方案之一。然而,像SynthID这样的产品不能是唯一的解决方案。谷歌本身也表示,这项技术“无法防范极端图像篡改”。
本月早些时候,马里兰大学的研究人员发布了一篇关于他们如何破解当前技术下所有可用水印方法的方式的预印本。他们不仅能够破坏这些水印,还能够将虚假水印插入图像中,从而产生虚假阳性结果。
诸如DALL-E和Midjourney之类的服务使图像生成变得比以往更加容易,因此互联网上充斥着由AI生成的虚假内容。
马里兰大学计算机科学副教授Soheil Feizi在接受采访时表示:“在我看来,给生成模型的输出加水印不会是解决AI虚假信息问题的切实可行方案。这个问题在理论上是不可能可靠解决的。”
拜登的行政命令还要求商务部制定用于检测和跟踪网络上合成内容的标准。Adobe本月宣布已经建立了“透明度标志”,或一种视觉标记,用于帮助确定图像的出处。这个标记可以添加到在Photoshop、Premiere和最终在Microsoft的Bing中创建的图像和视频上,以显示谁拥有或创建了数据。在实际操作中,当有人将鼠标悬停在标记上时,它将显示有关图像是如何生成的信息,比如是否由AI生成。
人权组织Witness的执行主任Sam Gregory等专家表示,在规模上认证AI生成内容将需要一组类似的方法。他说:“我不指望这些方法能百分之百地奏效。我也认为它们会被恶意行为者和意外事件破解,但我们应该将它们视为一种减少危害的方式。”
然而,验证和跟踪AI生成内容也存在着自己的风险。将个人可识别信息嵌入到图像的元数据中可以帮助内容创建者拥有其产品,但这引发了有关用户隐私的新担忧。对于生活在威权统治下的讽刺漫画创作者来说,挑战他们的领导的幽默内容可能会将他们置于危险之中。
建立一个可互操作且可靠的图像认证系统需要时间。目前尚不清楚这项命令将如何影响人工智能公司,以及政府可能会实施什么规定。
今日AI:Midjourney角色一致性功能上线、Grok即将开源、OpenAI永远提供免费版ChatGPT
欢迎来到【今日AI】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解:https://top.aibase.com/📢一分钟速看版•Midjourney角色人物一致性功能正式上线•OpenAI将永远提供免费的ChatGPT版本站长网2024-03-12 15:27:070000蔚来获阿布扎比投资机构11亿美元投资
昨日,蔚来宣布,已与阿联酋阿布扎比政府旗下投资机构CYVNHoldings签订股份认购协议。CYVN将通过定向增发和老股转让的方式向蔚来进行总计约11亿美元的战略投资,并将在蔚来国际业务上进行战略合作。站长网2023-06-21 16:57:550000360新品发布会“被盗图人”喊话周鸿祎:要求公开道歉 赔偿1元RMB
快科技6月13日消息,360AI新品发布会被盗图人”DynamicWangs发微博喊话周鸿祎,要求公开道歉,赔偿1元RMB。DynamicWangs发微博称:周鸿祎先生,贵司在6月6日的AI发布会上,未经授权使用我的模型生成的图片进行重绘、二度创作,并在公开场合发表使用,严重影响和侵犯了我的权益。我在这里郑重的要求您对于上述侵权行为进行公开道歉,并进行赔偿,赔偿金额1元RMB。”站长网2024-06-14 00:28:450000阿里云的野心,转让给了AI
“充值办会员”是Tony老师的杀手锏,理发店项目的原价与会员折扣价总能让消费者慷慨解囊,更何况储值金额越高,赠送的额度和折扣力度也越诱人。如果将这种商业模式套用到前沿又极客的云与AI,Tony老师摇身一变为云厂商,而那些薛定谔回应的AI公司,则成了财大气粗的消费者。智谱、月之暗面、Minimax、百川智能、零一万物等AI初创公司都经历了多轮融资。高达数百亿人民币的估值,仿佛梦回预制菜。站长网2024-11-18 18:05:210001360、百度、华为、阿里等被授予工信部人工智能标准化大模型专题组组长单位
站长之家(ChinaZ.com)7月7日消息:在日前2023世界人工智能大会上,360、百度、华为、阿里等企业被工信部中国电子技术标准化研究院授予「国家人工智能标准化总体组大模型专题组」组长单位,积极推动大模型国家标准体系建设,助力中国大模型产业发展。站长网2023-07-08 14:06:170001