このプロジェクトについて

Transformersは、テキスト、コンピュータビジョン、オーディオ、ビデオ、およびマルチモーダルモデルを含む機械学習タスク向けに設計されたオープンソースのモデル定義フレームワークです。機械学習エコシステム全体の中心的なハブとして機能し、主要なトレーニングフレームワーク(Axolotl、Unsloth、DeepSpeed、FSDP、PyTorch-Lightningなど)、推論エンジン(vLLM、SGLang、TGIを含む)、およびllama.cppやmlxのような隣接するモデリングライブラリとの互換性を確保しています。 ### 主な特徴 - **統一API:** 数百のモデルアーキテクチャに対して、トレーニング、評価、推論を実行するための整合したインターフェースを提供します。 - **Pipeline API:** テキスト生成、自動音声認識、画像分類、視覚的質問応答など、複数のモダリティにわたる迅速な推論を実現するハイレベルな抽象化を提供します。 - **フレームワーク間の相互運用性:** 単一のモデルをPyTorch、JAX、TensorFlow 2.0の間でシームレスに移動させることができます。 - **Hugging Face Hubとの統合:** 100万以上の学習済みモデルチェックポイントへの直接アクセスを提供します。 - **カスタマイズ可能な内部構造:** モデルアーキテクチャは最小限の抽象化で設計されており、内部構造が公開されているため、研究者や開発者がモデルファイルを独立して簡単にカスタマイズし、反復開発を行うことができます。