微软发布可逼真复制人脸和声音的 AI 工具,引发对加剧深度伪造的担忧
在上周的开发者大会上,微软宣布了其在人工智能竞赛中的最新贡献:一款可以生成新头像和声音,或复制用户现有外观和语音的软件,这引发了人们对它可能加剧深度伪造创造的担忧。深度伪造是指使用 AI 制作的未曾发生事件的视频。

在 2023 年的 Microsoft Ignite 大会上宣布的 Azure AI Speech,经过人类图像训练,允许用户输入脚本,然后可以由用人工智能创建的逼真头像「朗读」该脚本。用户可以选择预加载的微软头像,或上传他们想要复制其声音和相貌的人的录像。微软在上周三发布的博客文章中表示,该工具可用于构建「对话代理、虚拟助手、聊天机器人等」。
文章中写道:「客户可以为他们的头像选择预建的或自定义的神经声音。如果用于自定义神经声音和自定义文本到语音头像的是同一个人的声音和相貌,头像将与那个人非常相似。」
微软表示,新的文本到语音软件发布时配备了多种限制和保护措施,以防止滥用。「作为微软对负责任 AI 的承诺的一部分,文本到语音头像的设计意图是保护个人和社会的权利,促进透明的人机互动,并抵制有害深度伪造和误导性内容的泛滥,」公司说。
「客户可以上传自己的 Avatar talent 的视频录像,该功能用于训练自定义头像说话的合成视频,」博客文章中写道。「 Avatar talent」是为 AI 的比喻性摄像机摆姿势的人。
该公告迅速引起批评,称微软发布了一个「深度伪造制造器」,这将更容易让一个人的相貌被复制并使其说出和做出该人未曾说过或做过的事情。微软自己的总裁在 5 月表示,深度伪造是他对人工智能崛起的「最大担忧」。
在一份声明中,微软公司对这些批评进行了反驳,称定制头像现在是一个「限制访问」的工具,客户必须申请并获得微软的批准。用户还将被要求披露在创建合成声音或头像时使用了 AI。
微软的负责任 AI 工程部门的 Sarah Bird 在一份声明中说:「有了这些保障措施,我们有助于限制潜在风险,并使客户能够以透明和安全的方式将先进的语音和语音能力融入他们的 AI 应用。」
文本到语音头像制造工具是主要科技公司近年来抢占人工智能热潮的最新工具之一。在微软支持的公司 OpenAI 推出的 ChatGPT 大受欢迎后,像 Meta 和 Google 这样的公司也推出了自己的人工智能工具。
随着 AI 的兴起,人们越来越担心这项技术的能力,OpenAI 首席执行官 Sam Altman 警告国会,它可能被用于选举干预,必须实施保护措施。
专家表示,深度伪造在选举干预方面具有特别的危险性。微软本月早些时候推出了一款工具,允许政客和竞选活动认证和水印他们的视频,以验证其合法性并防止深度伪造的传播。Meta 本周宣布了一项政策,要求披露在政治广告中使用 AI 的情况,并禁止竞选活动使用 Meta 自己的生成 AI 工具进行广告。
小米澎湃OS采用HyperConnect框架 雷军:互联互通历史性跨越
今日,雷军表示,小米的澎湃OS采用了全新的XiaomiHyperConnect框架,这一框架实现了统一互联协议和跨设备自主动态实时组网,标志着小米在互联互通领域取得了历史性的突破。这一突破的关键在于HyperConnect,它处于澎湃OS系统架构的最上层,成功打破了硬件设备之间的隔阂。通过统一连接协议,各种设备能够实时进行通信。站长网2023-10-24 21:22:550000Tanuki通过自动模型蒸馏 轻松构建LLM技术驱动的应用
Tanuki.py是一个用于构建LLM(LargeLanguageModels)驱动应用的工具库。该库旨在通过自动模型蒸馏,实现应用在使用过程中的成本和延迟的逐渐降低,最多可达到90%的成本降低和80%的延迟降低。站长网2023-12-01 11:26:130000CPU处理器价格越来越贵 笔记本除外:大跌9%
快科技4月30日消息,去年下半年到现在,PC市场也遇到了需求大幅下滑的难题,出货量创造了10多年来新低,AMD及Intel两大CPU厂商的业绩都不太好看,CPU价格反而越来越贵,不过桌面及笔记本情况又不同。Intel上周五发布了Q1季度财报,营收下滑了36%,创造了2010年以来的历史新低,并且连续2个季度亏损。站长网2023-05-12 20:40:350000李彦宏:大家对AI大模型的兴奋点错了 自己着急
快科技12月16日消息,百度李彦宏发言指出,这次大模型技术浪潮是AI过去70年从来没有过的事情,是完全不一样的机会。图源备注:图片由AI生成,图片授权服务商Midjourney李彦宏称:这次不一样之处就在于它的通用性,没有教过的它也能学会。有了这个特点后,当你有一套基础技术能够非常领先的时候,它在各种各样的场景都能够迅速做出有价值的应用来。”0000AI日报:阿里开源最新数学模型Qwen2-Math;豆包上线音乐功能;苹果将推高级AI服务;谷歌机器人挑战巴黎奥运
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解:https://top.aibase.com/1、阿里开源最新数学模型Qwen2-Math数学能力秒杀GPT-4o站长网2024-08-10 13:32:500000