打击AI深度伪造仍无解?研究称:数字水印保护可被轻松绕过
文章概要:
1. AI生成深度伪造图像的潜在风险,包括恶意用途和法律挑战。
2. 研究指出数字水印保护容易被绕过,引发信息泄漏和欺诈问题。
3. 尽管存在挑战,设计强大的数字水印仍然是应对问题的一种可能解决方案。
近年来,AI技术的发展使得生成深度伪造图像变得轻而易举。例如,阿诺德·施瓦辛格的脸被叠加到克林特·伊斯特伍德的《丑牛》电影中。这些深度伪造图像有时会带来娱乐,但最近的发展却引发了更加不安的趋势,将数字虚假信息转向了恶意用途。
最近,演员汤姆·汉克斯在社交媒体上谴责一则广告,该广告使用了他的AI生成肖像来推广一项牙科保健计划。此外,拥有超过50亿观看次数的YouTuber Mr. Beast被虚假地展示为以2美元的价格提供iPhone15Pro。普通市民也成为目标,他们的面孔出现在社交媒体上,而未经他们同意。最令人不安的是“复仇色情”的增加,其中受伤害感情的人发布了虚假的图像,将前任伴侣描绘成令人尴尬或色情的场景中。

图源备注:图片由AI生成,图片授权服务商Midjourney
为了应对这一问题,主要的数字媒体公司,如OpenAI、Alphabet、亚马逊和DeepMind,承诺开发工具来打击虚假信息。其中一个关键方法是在AI生成的内容上使用数字水印。然而,一份发表在arXiv预印本服务器上的研究报告指出,要遏制这种数字虚假信息滥用的能力存在困难。
马里兰大学的教授进行了测试,展示了保护性水印的轻松绕过方法。其中一位报告作者Soheil Feizi表示:“目前我们没有可靠的数字水印技术。”他表示,他的团队都可以成功绕过数字水印技术。他还警告说,AI的误用可能导致涉及虚假信息、欺诈乃至选举操纵等潜在危害,这些危害涵盖了个人和更广泛社会的伤害。
研究团队采用了一种称为“扩散净化(diffusion purification)”的过程,该过程将高斯噪声应用于数字水印,然后将其删除。这留下了一个扭曲的水印,可以绕过检测算法,而图像的其余部分几乎没有改变。他们还成功地证明,恶意行为者通过访问黑匣子数字水印算法可以发布带有标记的虚假照片,以欺骗检测器认为它们是合法的。
尽管如此,Feizi也表达了一些乐观情绪,他说:“根据我们的研究结果,设计强大的数字水印是一项具有挑战性但不一定不可能的任务。”因此,目前人们在审查包含可能对他们重要的内容的图像时,必须要保持警惕,双重检查来源,并运用常识。
任何“圣诞限定款”,其实都想赚你的钱
近几日,圣诞节的节日气氛越来越浓烈。而且这种氛围已经从购买圣诞树、圣诞鲜花逐渐“蔓延”到更多领域,比如瑞幸咖啡和库迪咖啡就推出圣诞限定饮品和周边,乐事更是推出了瞄准聚会场景的特供版薯片。作为西方重要节日,圣诞节影响力也已经从大洋彼岸传到我国,并逐渐引起了一股消费热潮。这个充满欢乐与浪漫的节日,不仅是文化和习俗的交流,也成为商家们一年中的重要销售节点。站长网2023-12-22 14:22:550000小鹏汽车进入法国市场 2024款小鹏G9将开启交付
5月16日,小鹏汽车在巴黎举行小鹏G9上市发布活动,正式进入法国市场,开启国际战略新篇章。2024款小鹏G9在法国售价区间为59990~73990欧元,折合人民币售价区间约为470000~580000元,计划今年7月开启交付。在当天活动现场,小鹏汽车还展出了小鹏G6,并计划于下个月在法国上市。站长网2024-05-17 15:36:370000183款新品已拿版号,未来三年游戏市场得有多卷?
今年的游戏圈还挺热闹。何以见得?以葡萄君的主观感受,今年以来厂商们的新品测试和上线的速度明显加快,我们尽力报道也很难跟上他们「腹泻式」的动态——例如前两天,腾讯和网易的游戏发布会相继落幕,数十款新品一股脑涌了出来,葡萄君填测试问卷的手都止不住颤抖。近期的激烈战况,也不得不令人怀疑,厂商们还有多少弹药余粮?未来像这样富裕的仗还会打多少次?站长网2023-05-22 10:04:110000迈向「低价」,小红书要大胆点
今年双十一的提前抢跑,让布局电商业务的互联网平台纷纷使出了浑身解数,流量新贵小红书也不例外。整个被拉长的购物周期,小红书也拿出了多位明星化身买手进行首播的噱头,来吸引更多用户入场。吴建豪、刘维、朱丹、李湘等明星都打出了“重磅首播”的宣传词,来为这届小红书双十一摇旗呐喊。0000券商、基金开卷抖音,服务商怎么看?
2013年,支付宝和天弘基金推出产品“余额宝”后,一跃成为基金界耀眼夺目的“老大”。一众基金公司希望这样的奇迹能在和抖音的合作中重新上演,半年来从未停止“观望入局”,甚至同行之间连夜分享学习抖音财富小视频课程,就是害怕错失机遇。那就先把抖音账号做起来。站长网2023-09-10 10:33:190000