这个项目能做什么

trtvideo 是一个专门设计的运行时，用于使用 TensorRT 模型进行无头（headless）的文件到文件视频处理。它通过确保原始视频帧在整个过程中始终保留在 VRAM 中来优化视频管线——利用 NVDEC 进行解码，CV-CUDA 进行预处理和后处理，TensorRT 进行推理，以及 NVENC 进行编码。与传统管线相比，这种架构最大限度地减少了主机与设备之间的内存传输，从而降低了 CPU 占用率并减少了峰值 VRAM 占用。 关键特性包括： - GPU 常驻路径：从压缩输入到封装输出的集成管线。 - 基于 Docker 的部署：提供生产镜像和模型工具镜像，以实现可重复的执行。 - 模型兼容性：验证支持 RealESRGAN_x2plus 和 SPAN 等超分辨率模型。 - 工具链：包括将 PyTorch 检查点导出为 ONNX、准备静态 TensorRT 引擎以及执行兼容性检查的实用工具。 - 性能：在 NVIDIA RTX 3090 和 4090 GPU 上，端到端 FPS 和资源效率方面具有显著的吞吐量优势。