这个项目能做什么
LTX-Video是Lightricks开发的开源基于DiT的视频生成模型,它将核心视频生成能力集成到单一模型中,包括音视频同步生成、高保真输出和多种性能模式。该模型单次推理即可生成原生4K分辨率、最高50FPS且带同步音频的视频。
核心能力包括:
- 文生视频、图生视频生成
- 视频扩展(向前和向后)
- 多关键帧条件控制与基于关键帧的动画制作
- 视频到视频的转换
- 同步音频生成(LTX-2版本支持)
该仓库提供多种模型变体,包括130亿和20亿参数版本、用于加速推理的蒸馏模型,以及用于降低显存占用的FP8量化版本。蒸馏模型支持快速迭代,在合适的硬件上数秒即可生成高清视频。20亿参数的蒸馏模型的LoRA变体仅需1GB显存即可运行。
LTX-Video可与ComfyUI、Diffusers集成,提供Python库API。它支持深度、姿态、Canny边缘条件控制模型,也支持LoRA微调以实现风格定制。该模型采用OpenRAIL-M许可证,可用于商业用途。
社区贡献包括用于高级编辑工作流的ComfyUI-LTXTricks(支持RF-Inversion、RF-Edit、FlowEdit功能)、适用于NVIDIA ADA GPU的8位优化推理工具LTX-VideoQ8,以及无需训练的推理加速工具TeaCache。后续模型LTX-2新增了音视频同步生成、更长片段支持以及更丰富的创意控制功能。
评论
0 评分人数达到10人后显示
登录后参与讨论。