微软承诺为 AI 生成的图像和视频添加水印以打击「深度伪造」

站长之家(ChinaZ.com) 5月24日消息: 微软近期一直忙于推出基于 AI 的软件和服务。今年 3 月，它正式发布了 Bing Image Creator，该工具允许用户只需几个文本提示就能创作艺术作品。4 月，微软推出了 Microsoft Designer 的全面公开预览，该工具可以让用户通过文本提示和 AI 模型创建博客文章、网站等项目。

然而，有很多人担心基于 AI 的艺术创作工具可能被敌对团体甚至国家用来传播虚假信息。随着越来越多的「深度伪造」图像和视频的制作，微软正在积极采取措施确保其程序生成的 AI 艺术可以被识别。

在今天的微软 Build 2023 开发者大会上，微软宣布将很快推出一个功能，让任何人都可以通过该功能判断一幅艺术作品或视频剪辑是否由 Bing Image Creator 和 Microsoft Designer 生成。微软表示：

该技术使用加密方法为由 AI 生成的内容添加标记和签名，其中包含有关其来源的元数据。微软一直在研发用于验证出处的方法，并共同创立了 Project Origin 和内容出处和真实性联盟（C2PA）标准组织。微软的媒体出处将根据 C2PA 标准对生成内容进行签名和验证。

微软表示，该功能将适用于其两个 AI 内容创作程序的「主要图像和视频格式」。然而，它没有公布支持元数据的具体格式，也没有提供具体的添加日期，只表示将在未来几个月内推出。

此消息是微软本月早些时候宣布 Bing Image Creator 现已支持 100 多种不同语言之后发布的。该程序已经生成了超过 2 亿张图像。