可以在消费者gpus上运行的framepack视频数字

想象一下能够直接在常规笔记本电脑或PC上创建AI生成的视频。这正是FramePack的目标。该项目由LVMin Zhang(也是ControlNet的另一个已知的AI事物)开发的,使得可以在许多人真正在家中拥有的硬件上的视频模型运行相对较大的AI模型。最令人印象深刻的[…]可以在消费者GPU上运行的Framepack后视频数字首次出现在AI新闻中。

来源:AI新闻

想象一下能够直接在常规笔记本电脑或PC上创建AI生成的视频。这正是FramePack的目标。该项目由LVMin Zhang(也是ControlNet的另一个已知的AI事物)开发的,使得可以在许多人真正在家中拥有的硬件上的视频模型运行相对较大的AI模型。

framepack

最令人印象深刻的是,显然应该使用只有6 GB VRAM的图形卡就足够了。这是许多游戏笔记本电脑甚至较旧的台式机中的东西。过去,他们经常谈论需要24 GB或更多的VRAM来完成类似任务。

6 GB VRAM

无需进入最深的技术细节,FramePack似乎使用智能技术来处理内存使用。它没有立即将整个大型模型加载到图形卡内存中,而是以最小化VRAM的需求的方式工作。尽管如此,应该可以制作长达60秒的长视频。此外,开发人员承诺总体上快速渲染和系统负载低。当今有几种可用的视频扩散模型,例如Cogvideox(5b和14b的变体)和WAN2.1。这些模型具有令人印象深刻的功能,但通常需要更多的内存。

根据GitHub页面,FramePack可以生成一个完整的视频(60秒),每秒30帧(总计1800帧)使用13B模型时仅使用6 GB的VRAM。

在行动中看到它

开发人员在项目网站上发布了许多示例。查看此视频,显示生成跳舞的水母视频时的样子:

请参阅FramePack项目页面上的视频示例(在页面上有点滚动以查看示例)

请参阅FramePack项目页面上的视频示例

下面:图片到5秒(30fps,150张图像) - 分子用RTX 3060 6GB笔记本电脑计算出13B hy variant。

goes
这就是如何看到FramePack Interfacet -GUI。

它以FP16/BF16的支持支持RTX 30、40和50系列,尽管有些较旧的卡也可能起作用。