trtvideo

O trtvideo é um runtime especializado projetado para processamento de vídeo headless, de arquivo para arquivo, utilizando modelos TensorRT. Ele otimiza o pipeline de vídeo garantindo que os frames de vídeo brutos permaneçam na VRAM durante todo o processo — utilizando NVDEC para decodificação, CV-CUDA para pré-processamento e pós-processamento, TensorRT para inferência e NVENC para codificação. Esta arquitetura minimiza as transferências de memória host-to-device, resultando em menor uso de CPU e redução do pico de VRAM em comparação com pipelines tradicionais. Os principais recursos incluem: - Caminho residente em GPU: Pipeline integrado desde a entrada compactada até a saída muxed. - Implantação baseada em Docker: Fornecido como imagens de produção e de ferramentas de modelo para execução reprodutível. - Compatibilidade de modelos: Suporte validado para modelos de super-resolução como RealESRGAN_x2plus e SPAN. - Ferramentas: Inclui utilitários para exportar checkpoints do PyTorch para ONNX, preparar engines estáticos do TensorRT e realizar verificações de compatibilidade. - Performance: Vantagens de throughput mensuradas em FPS de ponta a ponta e eficiência de recursos em GPUs NVIDIA RTX 3090 e 4090.