微软发布可逼真复制人脸和声音的 AI 工具,引发对加剧深度伪造的担忧
在上周的开发者大会上,微软宣布了其在人工智能竞赛中的最新贡献:一款可以生成新头像和声音,或复制用户现有外观和语音的软件,这引发了人们对它可能加剧深度伪造创造的担忧。深度伪造是指使用 AI 制作的未曾发生事件的视频。

在 2023 年的 Microsoft Ignite 大会上宣布的 Azure AI Speech,经过人类图像训练,允许用户输入脚本,然后可以由用人工智能创建的逼真头像「朗读」该脚本。用户可以选择预加载的微软头像,或上传他们想要复制其声音和相貌的人的录像。微软在上周三发布的博客文章中表示,该工具可用于构建「对话代理、虚拟助手、聊天机器人等」。
文章中写道:「客户可以为他们的头像选择预建的或自定义的神经声音。如果用于自定义神经声音和自定义文本到语音头像的是同一个人的声音和相貌,头像将与那个人非常相似。」
微软表示,新的文本到语音软件发布时配备了多种限制和保护措施,以防止滥用。「作为微软对负责任 AI 的承诺的一部分,文本到语音头像的设计意图是保护个人和社会的权利,促进透明的人机互动,并抵制有害深度伪造和误导性内容的泛滥,」公司说。
「客户可以上传自己的 Avatar talent 的视频录像,该功能用于训练自定义头像说话的合成视频,」博客文章中写道。「 Avatar talent」是为 AI 的比喻性摄像机摆姿势的人。
该公告迅速引起批评,称微软发布了一个「深度伪造制造器」,这将更容易让一个人的相貌被复制并使其说出和做出该人未曾说过或做过的事情。微软自己的总裁在 5 月表示,深度伪造是他对人工智能崛起的「最大担忧」。
在一份声明中,微软公司对这些批评进行了反驳,称定制头像现在是一个「限制访问」的工具,客户必须申请并获得微软的批准。用户还将被要求披露在创建合成声音或头像时使用了 AI。
微软的负责任 AI 工程部门的 Sarah Bird 在一份声明中说:「有了这些保障措施,我们有助于限制潜在风险,并使客户能够以透明和安全的方式将先进的语音和语音能力融入他们的 AI 应用。」
文本到语音头像制造工具是主要科技公司近年来抢占人工智能热潮的最新工具之一。在微软支持的公司 OpenAI 推出的 ChatGPT 大受欢迎后,像 Meta 和 Google 这样的公司也推出了自己的人工智能工具。
随着 AI 的兴起,人们越来越担心这项技术的能力,OpenAI 首席执行官 Sam Altman 警告国会,它可能被用于选举干预,必须实施保护措施。
专家表示,深度伪造在选举干预方面具有特别的危险性。微软本月早些时候推出了一款工具,允许政客和竞选活动认证和水印他们的视频,以验证其合法性并防止深度伪造的传播。Meta 本周宣布了一项政策,要求披露在政治广告中使用 AI 的情况,并禁止竞选活动使用 Meta 自己的生成 AI 工具进行广告。
被AI偷走声音的配音员,靠什么保住饭碗?
“甲方要求我一边配音,一边自拍,以此证明我是真人。”2020年,网络配音员麓雨接到一笔大单,对方请他到北京线下录音,日薪4千,用途保密。考虑到可观的单价,入行两年的麓雨只身北上,进棚一周拿到3万元。3年后,麓雨突然接到朋友的消息:“你听,这是不是你的声音?”站长网2024-05-27 10:11:440001谷歌、亚马逊、英伟达等科技巨头投资 Hugging Face 使其估值进一步攀升至 45 亿美元
站长之家(ChinaZ.com)8月25日消息:总部位于纽约的人工智能公司HuggingFace已从一些科技巨头公司筹集了2.35亿美元,使其估值攀升至45亿美元。站长网2023-08-26 16:14:310000AI拜年模拟器“决战拜年之巅”网络走红 快来看看你是不是“大孝子”
快过年了,是时候面对亲戚们的问候了!如果你感到有些措手不及,别着急,可以先借助AI来进行一次演练。近期,一款名为“决战拜年之巅”的拜年模拟器在社交媒体上引起了轰动。这款模拟器的玩法与文字聊天小游戏相似,你需要在“相亲相爱一家人”群聊中依次面对七大姑、八大姨、六大婶、五大叔、二大爷等众多亲戚的灵魂拷问,涉及到工作、恋爱等多个有针对性的话题。站长网2024-02-04 14:27:540000ChatGPT插件总数已达430个 已进入车载系统
据《科创板日报》报道,自从OpenAI开放插件以来,其插件数量一直在迅速增加。根据国外网友的统计,目前最新的插件总数已经达到了430个,比5月13日刚开放时的74个增长了超过400%。该网友还指出,其中112个插件是在6月11日一天内新增的。站长网2023-06-16 16:32:270000吸粉500W,“先天互联网圣体”成乡村赛道新顶流
7月抖音涨粉榜已出,我们一起来看:从整体涨粉走势来看,7月仍然保持着和6月一样的颓势,登上榜首的账号单月增粉量也只有292.7W,对比6月榜首315.6W的增量要更为惨淡。此后,增粉量在200W-300W之间的账号还有7个,剩余12个账号的增粉量则都在100W-200W之间。值得注意的是,此次登上涨粉榜TOP3的都不是严格意义上的内容创作者:站长网2024-08-08 00:53:130000