Об этом проекте

trtvideo — это специализированная среда выполнения, разработанная для безголового (headless) обработки видео из файла в файл с использованием моделей TensorRT. Она оптимизирует видеоконвейер, гарантируя, что необработанные видеокадры остаются в VRAM на протяжении всего процесса: используется NVDEC для декодирования, CV-CUDA для предобработки и постобработки, TensorRT для инференса и NVENC для кодирования. Такая архитектура сводит к минимуму передачу данных между хостом и устройством, что приводит к снижению нагрузки на CPU и уменьшению пикового потребления VRAM по сравнению с традиционными конвейерами. Ключевые особенности включают: - Путь резидентности в GPU: интегрированный конвейер от сжатого ввода до мультиплексированного вывода. - Развертывание на базе Docker: предоставляется в виде образов для продакшена и инструментов моделирования для воспроизводимого выполнения. - Совместимость моделей: подтвержденная поддержка моделей супер-разрешения, таких как RealESRGAN_x2plus и SPAN. - Инструментарий: включает утилиты для экспорта чекпоинтов PyTorch в ONNX, подготовки статических движков TensorRT и проведения проверок на совместимость. - Производительность: измеренные преимущества по пропускной способности в конечных FPS и эффективности ресурсов на GPU NVIDIA RTX 3090 и 4090.