登陆注册
13831

Animate Anyone引发人们对虚假视频泛滥的担忧

站长网2023-12-05 10:27:310

要点:

由阿里巴巴智能计算研究所研发的“Animate Anyone”是一种新的生成视频技术,能够将静态图像转换为高度逼真的动态深度伪造视频。

该技术改进了之前的图像到视频系统,解决了以往存在的幻觉问题,使生成的视频更为逼真,尽管仍存在一些问题,尤其是在处理眼睛和手部动作方面。

这一技术的发展引发了对滥用的担忧,因为有人可以利用个人照片制作逼真的虚假视频,结合面部动画和语音捕捉技术,可能导致虚假信息的广泛传播。

随着阿里巴巴智能计算研究所开发的“Animate Anyone”技术的推出,图像生成视频的领域迈出了重要一步。该技术通过从参考图像提取面部特征、模式和姿势等细节,然后将这些细节映射到略微不同的姿势上,生成一系列图像,形成动态视频。相较于之前的技术,新模型在保留基本和精细细节方面取得了显著的改进。

然而,尽管取得了进展,该技术仍存在一些挑战,尤其是在处理眼睛和手部动作时。技术开发团队强调了一个新的中间步骤,使模型能够在一致的特征空间中全面学习与参考图像的关系,从而显著提高外观细节的保留。在展示的几个场景中,时尚模特能够以各种姿势展示服装而不失真,二维动漫角色生动地跳舞,梅西也展示了一些基本动作。

尽管技术在不断进步,但人们对其潜在滥用感到担忧。通过一个高质量的个人照片,恶意行为者可以制作出几乎任何虚假视频,而结合面部动画和语音捕捉技术,甚至可以让被伪造的人表达任何言论。尽管目前技术过于复杂且存在缺陷,但在人工智能领域,这种状况往往不会持续太久。

尽管该团队尚未将代码公开,但他们表示正在积极准备演示和代码以供公开使用。鉴于当前网络上已充斥着静态深度伪造图片和文本对话,一旦出现大量虚假视频,我们可能会面临一场信息混乱的风险。未来将会揭示互联网是否会迎来“舞蹈伪造”的狂潮,这可能比我们预想的还要更快到来。

0000
评论列表
共(0)条