onnxruntime — ONNX Runtimeは、PyTorch、TensorFlow、scikit-learnなどのモデルをサポートする、機械学習の推論およびトレーニング向けのクロスプラットフォーム・アクセラレータです。

ONNX Runtimeは、PyTorch、TensorFlow、scikit-learnなどのモデルをサポートする、機械学習の推論およびトレーニング向けのクロスプラットフォーム・アクセラレータです。

このプロジェクトについて

ONNX Runtimeは、推論とトレーニングの両方向けに設計されたクロスプラットフォームの機械学習アクセラレータです。主な機能は以下の通りです： - 推論の加速：PyTorchやTensorFlow/Kerasなどのディープラーニングフレームワークに加え、scikit-learn、LightGBM、XGBoostなどの古典的なMLライブラリのモデルをサポートしています。グラフ変換や、さまざまなオペレーティングシステムおよびドライバにわたるハードウェアアクセラレータを通じてパフォーマンスを最適化します。 - トレーニングの加速：マルチノードのNVIDIA GPU上でのtransformerモデルのトレーニングに向けた加速を提供し、既存のPyTorchトレーニングスクリプトと統合します。本プロジェクトは複数のハードウェア構成と互換性があり、推論およびトレーニングワークフローの両方について、包括的なドキュメント、チュートリアル、およびサンプルリポジトリを提供しています。