trtvideo

trtvideoは、TensorRTモデルを使用したヘッドレスなファイル間ビデオ処理向けに設計された専用ランタイムです。NVDECによるデコード、CV-CUDAによる前処理および後処理、TensorRTによる推論、そしてNVENCによるエンコードを活用し、ビデオフレームを生の状態でプロセス全体を通じてVRAMに保持させることでビデオパイプラインを最適化します。このアーキテクチャにより、ホスト・デバイス間のメモリ転送が最小限に抑えられ、従来のパイプラインと比較してCPU使用率の低下とピークVRAMの削減が実現します。 主な特徴は以下の通りです： - GPU常駐パス：圧縮入力からマルチプレクス出力まで統合されたパイプライン。 - Dockerベースのデプロイ：再現可能な実行を可能にするため、プロダクション用およびモデルツール用のイメージを提供。 - モデル互換性：RealESRGAN_x2plusやSPANなどの超解像モデルへのサポートを検証済み。 - ツール群：PyTorchチェックポイントからONNXへのエクスポート、静的TensorRTエンジンの準備、および互換性チェックを行うユーティリティを同梱。 - パフォーマンス：NVIDIA RTX 3090および4090 GPUにおいて、エンドツーエンドのFPSとリソース効率におけるスループットの優位性を測定。