Sobre el proyecto
trtvideo es un runtime especializado diseñado para el procesamiento de video de archivo a archivo sin interfaz (headless) utilizando modelos de TensorRT. Optimiza el pipeline de video asegurando que los fotogramas de video brutos permanezcan en la VRAM durante todo el proceso, utilizando NVDEC para la decodificación, CV-CUDA para el preprocesamiento y postprocesamiento, TensorRT para la inferencia y NVENC para la codificación. Esta arquitectura minimiza las transferencias de memoria entre el host y el dispositivo, lo que resulta en un menor uso de la CPU y una reducción de la VRAM máxima en comparación con los pipelines tradicionales.
Las características clave incluyen:
- Ruta residente en GPU: Pipeline integrado desde la entrada comprimida hasta la salida multiplexada.
- Despliegue basado en Docker: Proporcionado como imágenes de producción y de herramientas de modelos para una ejecución reproducible.
- Compatibilidad de modelos: Soporte validado para modelos de super-resolución como RealESRGAN_x2plus y SPAN.
- Herramientas: Incluye utilidades para exportar checkpoints de PyTorch a ONNX, preparar motores estáticos de TensorRT y realizar comprobaciones de compatibilidad.
- Rendimiento: Ventajas de rendimiento medidas en FPS de extremo a extremo y eficiencia de recursos en GPUs NVIDIA RTX 3090 y 4090.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.