Rerender A Video源代码放出!解决AI视频闪烁问题
站长网2023-09-26 11:44:411阅
Rerender A Video是一项令人印象深刻的技术成果,它旨在将大型文本到图像扩散模型的能力扩展到视频领域。该项目提出了一种零训练的文本引导视频到视频翻译框架,能够在视频帧之间确保时间一致性,这一直是一个巨大的挑战。
它包括两个主要部分:关键帧翻译和完整视频翻译。第一部分使用适应的扩散模型生成关键帧,通过应用层次交叉帧约束来强化形状、纹理和颜色的连贯性。

项目地址:https://github.com/williamyang1991/Rerender_A_Video
第二部分则通过时间感知的补丁匹配和帧混合将关键帧传播到其他帧。这个框架以较低的成本实现了全局样式和局部纹理的时间一致性,而无需重新训练或优化。
它还与现有的图像扩散技术兼容,可以利用它们,例如使用LoRA自定义特定主题,或者使用ControlNet引入额外的空间引导。大量的实验结果证明了该框架在渲染高质量和时间一致性视频方面的有效性。
核心功能:
时间一致性: 通过交叉帧约束实现低级别时间一致性,确保生成的视频帧之间的平滑过渡。
零训练: 无需对模型进行训练或微调,使其适用于各种视频翻译任务。
灵活性: 与现成的模型(如ControlNet、LoRA等)兼容,可以根据需求自定义翻译过程。
WebUI界面: 提供了用户友好的Web界面,使用户可以轻松上传视频、输入提示、选择种子等,并运行不同的翻译步骤。
命令行支持: 提供了灵活的命令行脚本,允许用户通过命令行参数控制翻译过程。
0001
评论列表
共(0)条相关推荐
AI手机,活成产业“摇钱树”
早几年出现的折叠屏没能拯救颓势的手机市场,直接证据就是去年全球出货量依旧拉胯,同比下滑3.2%至11.7亿部,为近十年来最低。好在Q4出现了些许回暖,全球和中国市场分别有8.5%和1.2%的同比增幅,尤其是后者,在连续同比下降10个季度后首次转正。很难说这其中没有AI的功劳。站长网2024-05-12 04:04:500000余承东宣布华为天生会画APP正式版8月6日上线
华为的余承东今日展示了一幅精美的画作,这副作品是利用华为即将在8月6日发布的新款MatePadPro平板电脑以及天生会画App的正式版完成的。这款App配备了华为最新研发的空中绘画笔刷技术。余承东透露,天生会画App在公测期间根据用户反馈进行了多项功能优化,以提升绘画效果和用户体验。这款强大的绘画软件将在8月6日正式推出。站长网2024-07-31 17:20:280000Google 扩展测试计划将 Gmail 和 Docs 生成式 AI 带给 10 倍以上的受信任测试人员
三月下旬,Google开始让公众测试Gmail和Docs的生成式AI。现在,它正在大幅扩展「受信任的测试者」计划。今天,Google表示正在将生成式AI能力的「受信任的测试者」计划扩展「超过10倍」。该计划名为「GoogleWorkspace中的实验室」,目前仅适用于被邀请的美国英语测试者。站长网2023-05-05 20:48:230000重磅!新语言Mojo开放下载,运行速度超Python6.8万倍
要点:新语言Mojo开放编译器和IDE下载,语法类Python但运行速度可达Python的68000倍。Mojo通过类型注释、向量化、多核并行等手段大幅提升运行速度。Mojo兼容Python生态,可与Numpy、Pandas等库无缝交互,受到AI开发者关注。站长网2023-09-08 17:02:530002超越 ChatGPT ?AutoGPT 爆火,两周斩获 50k+ Star:无需人类插手,自主完成任务!
刚上线两周就收获50kStar,看来Auto-GPT是真的火了!(项目地址:https://github.com/Torantulino/Auto-GPT?ref=jina-ai-gmbh.ghost.io)站长网2023-04-14 18:10:370000