深度伪造因效果太好不适合向公众发布

本周，微软演示了VASA–1，这是一个基于静态图像、音频样本和文本脚本来创建人物讲话视频的框架，微软声称——这是正确的——这个框架太危险了，不适合向公众发布。这些由AI生成的视频，可以让人物以克隆的声音令人信服地配合脚本说话，正是美国联邦贸易委员会上个月警告的那种情形，之前已提出规则以防止利用AI技术进行冒充诈骗。