Dall-E和稳定扩散仅仅是开始。随着生成式人工智能系统的激增，以及各公司努力将自己的产品与竞争对手的产品区分开来，互联网上的聊天机器人正在获得编辑图像以及创建图像的能力，其中Shutterstock和Adobe等公司处于领先地位。但这些新的人工智能功能也带来了常见的陷阱，例如未经授权操纵或公然盗窃现有的在线艺术品和图像。水印技术可以帮助缓解后者，而麻省理工学院 CSAIL 开发的新“ PhotoGuard ”技术可以帮助防止前者。
MIT 开发的 “PhotoGuard” 技术通过对图像进行微小的修改，以防止恶意人工智能对图像进行编辑。这种技术使用了两种攻击方法，一种是 “编码器” 攻击，通过修改图像的像素来干扰算法模型对图像的理解能力;另一种是 “扩散” 攻击，将图像伪装成另一张图像，使算法将编辑应用到伪造的目标图像上，从而生成不真实的图像。
然而，这种技术并非完全可靠，恶意人员仍然可能通过添加数字噪音、裁剪或翻转图片等手段来逆向工程保护的图像。作者表示，解决这个问题需要模型开发者、社交媒体平台和政策制定者共同努力，提供一个全面的防御未经授权的图像篡改的解决方案。
论文地址:https://arxiv.org/abs/2302.06588
