trtvideo

trtvideo est un runtime spécialisé conçu pour le traitement vidéo sans interface (headless), de fichier à fichier, utilisant des modèles TensorRT. Il optimise le pipeline vidéo en garantissant que les images vidéo brutes restent dans la VRAM tout au long du processus — en utilisant NVDEC pour le décodage, CV-CUDA pour le prétraitement et le post-traitement, TensorRT pour l'inférence et NVENC pour l'encodage. Cette architecture minimise les transferts de mémoire entre l'hôte et le périphérique, ce qui se traduit par une utilisation réduite du CPU et une diminution de la VRAM de pointe par rapport aux pipelines traditionnels. Les caractéristiques clés incluent : - Chemin résident GPU : Pipeline intégré de l'entrée compressée à la sortie multiplexée. - Déploiement basé sur Docker : Fourni sous forme d'images de production et d'outils de modèle pour une exécution reproductible. - Compatibilité des modèles : Support validé pour les modèles de super-résolution tels que RealESRGAN_x2plus et SPAN. - Outillage : Comprend des utilitaires pour exporter des checkpoints PyTorch vers ONNX, préparer des moteurs TensorRT statiques et effectuer des vérifications de compatibilité. - Performance : Avantages de débit mesurés en FPS de bout en bout et efficacité des ressources sur les GPU NVIDIA RTX 3090 et 4090.