从视频合成到配乐剪辑,全由AI操刀完成:首部预告片震撼登场
站长之家编辑总结:一则时长不到一分钟的科幻电影预告片《Trailer: Genesis》在社交媒体上火了起来,其中的所有内容,包括图像视频合成、音乐剪辑等,都是由 AI 完成的。制作者使用了多种 AI 工具,如 Midjourney 处理图像、Runway 处理视频、Pixabay 处理音乐、CapCut 进行剪辑。制作过程中,AI 工具的使用涉及到生成连续的图像、动画图像以及后期剪辑。此外,文章还展示了其他使用 AI 生成视频的例子,尽管有些效果不理想。文章强调了 AI 与人类的合作可以实现更好的创作结果。
声明:本文来自于微信公众号 机器之心(ID:almosthuman2014),作者:杜伟、泽文,授权站长之家转载发布。
最近两天,一则时长不到一分钟的科幻电影预告片《Trailer: Genesis》(《创世纪》)在社交媒体上火了起来。
是不是很科幻呢?更「科幻」的是,从图像视频合成、音乐到剪辑,所有一切都是由 AI 完成的。
制作者 Nicolas Neubert 列出了对应的 AI 工具,其中Midjourney 处理图像、Runway 处理视频、Pixabay 处理音乐、CapCut 剪辑视频。
Midjourney 是大家熟悉的 AI 绘图神器,目前已经更新到了5.2版本。Runway 是基于 AI 的视频制作生成工具,目前 Gen-2已经开启免费试用。CapCut 剪辑工具对所有人免费,不过也可以选择在 Adobe Premier 或 Final Cut Pro 中剪辑。
推特 @iamneubert
据了解,Neubert 花了7个小时,Midjourney 生成了316条提示、放大了128张图像,Runway 生成了310个视频,还有一个带有文本的视频,预告片中共使用了44个视频。
今天,Neubert 更是撰写了一篇长文,详细介绍了《创世纪》的制作过程,包含了具体流程、如何使用上述 AI 工具。我们一一来看。
关于电影想法,他表示自己反乌托邦主题的想法来自自己看过的几部电影,并以它们为基础编写了一个故事。
正式制作的第一步是构建世界和故事。
对于预告片《创世纪》的故事情节,Neubert 想一步步地增强紧张感。因此定义了以下3个阶段:
设置场景
引入威胁
CTA 中的高潮
具体地讲,Neubert 先制作预告片的第一个文案草稿,包括「分享一切、承担后果然后呼吁人类采取行动」。
这样定义了整体基调后,他开始围绕这些主题生成相应的场景。Neubert 滚动了大量有关环境、军事科技、战斗主题的人类和科幻剪辑,然后从中收集到一个故事。
同时为了增加一些深度,他添加了三个带有发光护身符的孩子的镜头,暗示了更深层次的故事情节。
第二步是在 Midjourney 中生成连续的图像。
这里要特别注意提示(prompt)。Neubert 对自己在以往帖子中获得的稳定提示进行了优化,创建了一个模板,这样在预告片的每个镜头中都能重复使用它。模板如下:
___________,星球大战、风格为精细的人群场景、朴实的自然主义、青色和黄色、寒霜朋克、室内场景、cinestill50d—ar21:9— 原始风格
对于每个场景,他都会用自己想要的场景来填补空白,确保其他 tokens 最大限度地保持主题、颜色和照明的连贯性。
此外利用强变化(Strong Variations)功能,使得更容易创建不同的场景,同时保留之前的调色板。女战士的场景可以转变为普通公民、网络黑客或战斗的场景,无需生成新的提示。
第三步是在 Runway 中生成动画图像。
Neubert 发现这一步是最简单的。在设置上,他总是尝试激活放大(Upscaled)模式。不过该模式常常遇到面部问题,所以针对人物镜头,他通常使用标准质量。
值得注意的是,他没有使用文字提示与图像提示相结合的方式,而是拖放一张图像并重新生成它,直到得到自己满意的结果。
最后一步是在 CapCut 后期剪辑。
在 Midjourney 和 Runway 生成输出的同时,Neubert 首先放置自己知道将发挥重要作用的关键场景。就预告片而言,他认为外景镜头将成为开场。
接着开始计划文本。当根据音乐来定位文本时,时间轴中没有任何剪辑,这是有可能的。他在不到一个小时的时间里就按照时间线编好了内容并定了位。这对生成图像很有帮助,你需要一个额外的固定点来考虑仍然缺少了哪些场景。
具体的步骤变得很简单,生成剪辑→ 将它们拉入 CapCut → 放置在时间轴上,然后慢慢拼凑故事。他还对2到3个编辑包进行了颜色匹配,让它们看起来更像宏大的电影场景。
使用 CapCut 唯一需要的技巧是对剪辑进行节拍的同步。当音乐中出现「BWAAA」时,他总是尝试连接剪辑内的动作或者排列后面的剪辑。这会令整个序列更有身临其境的感觉。
此外 Neubert 还考虑了如何在剪辑中加入大量的动作。这里他使用了两个技巧来增加动作。
第一个技巧:Runway 会接收一张图像,然后根据模型计算哪些部分应该进行动画处理。他对这个思路进行了逆向工程,尝试在 Midjourney 中输出暗示运动的图像。这意味着可以在镜头中加入运动模糊或者可以捕捉移动头部或人物的静止图像。
第二个技巧:当你分析 Runway 视频时会发现在4秒剪辑中,场景经常发生很大的变化。因此在预告片场景中,他只使用了完整的4秒剪辑两次。所有其他剪辑的长度均为0.5-2秒,并将剪辑的速度提高了1.5-3倍。这样做的原因是,作为观看者,你只能看到时间很短的剪辑,因而会在场景中感知到更多运动,本质上是快进了该部分。
一番操作下来,最终呈现出给大家的就是开头的那个震撼的《创世纪》预告片。该预告片也得到盛赞,有人表示,这是自己至今为止看过的最好的 Runway 生成视频。
其实,在 Runway Gen-2可以免费试用后,不少网友大开脑洞,将它与 Midjourney 结合起来,大胆创作。
Midjourney Runway:神奇的 AI 创作工具组合
这里与大家分享一些其他的生成用例。
Runway 对与人物动作细节的把握也是较为准确的。在网友申城的视频中可以看到,人物眼睛的细节让动态视频更加传神,也可以说了平添了几分「演技」。
图片动起来之后,人与马在夜色中的动作十分自然,对于人物,甚至后续动作的想象空间也有了更大留白。
Midjourney 与 Runway 的组合看起来很是无敌,在人物关键动作上能刻画出适当的故事感。
推特:@ai_insight1
还有一些变化更加丰富,也更具创意的生成结果。
也有网友利用一系列 AI 工具生成视频短片,可是结果似乎不尽人意。
推特用户 @nickfloats 使用 ChatGPT 撰写脚本、Midjourney 生成图像、Runway 生成视频、Triniti 生成音乐、Eleven Labs AI 配音,剪辑就将其简单的拼接在一起,不做其他调整。
ChatGPT 撰写的脚本
网友记录了自己制作的全过程,想看看全程使用 AI 制作广告短片需要多久。
在经过45分钟之后,成片出来了,它的效果如何?
这名网友对这个短片成果的评价是 「The ad sucks」。这广告中,人物的动作僵硬,画面的逻辑关系不强,整体也很难凸显出想要表达的主题。AI 的通力合作似乎并没有出现惊喜,反而是「惊吓」更多一些。
与《创世纪》相比,这个广告短片时长是它的一半,但是用时极少。其中最大的差异就是人类参与的细节。它没有仔细斟酌后的主题、追求连贯的不断调整以及对细节的高要求。
如果只让 AI 来参与,或是只根据 AI 的生成来产出作品,显然还不能够由高质量的成果。人类对它们的应用和调整似乎才能体现这些工具的真正价值。
Stable Diffusion老板跑路开新坑,被抛下的SD3开源成了烂摊子
StabilityAI前CEO的新公司,终于浮出水面:SchellingAI,就如他当初辞职跑路时所说,致力于“去中心化人工智能系统”。这一消息,由EmadMostaque本人在最新一次公开亮相中现场宣布。官网域名schelling.ai目前会跳转到官方𝕏,而官方𝕏还是空号。只关注了一个账号,是……索尼??总之很神秘。站长网2024-06-06 20:46:0900022亿年终奖用G3手机抵扣?格力回应:消息不实
站长之家(ChinaZ.com)2月1日消息:近日,网络上流传着关于格力电器年终奖发放方式的传闻。有消息称,格力电器董事长董明珠宣布多发给员工的两个亿年终奖并非现金,而是以格力G3手机抵扣。另有传言称,年终奖是以积分形式发放,积分可兑换格力产品。站长网2024-02-01 11:26:590000市值不足AMD四成、裁员15%:但Intel绝不会倒闭
快科技8月11日消息,据国外媒体报道,尽管市值已不足AMD的四成,且宣布裁员15%,但Intel作为美国最大的芯片制造商,其倒闭的可能性微乎其微。Intel近期发布的第二季度财报,引发了市场对其目前困境的关注,股价暴跌逾25%,市值跌破账面价值,但这些数字并未动摇其行业巨头的地位。Intel在美国芯片制造业中占据举足轻重的地位,其晶圆产能占美国约41%,是美国300毫米晶圆产能的领头羊。0000中国移动APP启动华为鸿蒙原生应用开发
据@HarmonyOS官微消息,拥有超过3亿用户的中国移动APP已正式宣布基于HarmonyOSNEXT启动鸿蒙原生应用及服务开发。这一合作将充分发挥HarmonyOS系统的分布式技术优势,实现中国移动APP在手机、平板等多种终端之间的无缝流转,从而建立起多渠道的用户触达矩阵。0000马斯克承认用X数据训练AI:微软别想用,但我自己能用
马斯克终于忍不住,开始用X的数据喂AI了!这两天,大伙儿发现X悄悄更新了一版隐私政策,里面表示会使用社交媒体数据来训练机器学习或AI模型。要知道,马斯克前不久还威胁微软,要起诉它用X的数据训练AI。就在网友们纷纷艾特马斯克“要个说法”时,他却直接承认了:只会用公开信息(训练),不会用私信和任何私人数据。此处有网友表示惊讶:你不是反对AI的吗?但还是有网友选择给马斯克打掩护:站长网2023-09-04 09:16:260000