このプロジェクトについて
Oumiは、基盤モデルのエンドツーエンドのライフサイクルをカバーするApache-2.0のオープンソースプラットフォームです。データの準備とキュレーション、学習と微調整、評価、デプロイを対象としています。Pythonパッケージ(`oumi`)として配布され、コマンドラインインターフェースと、すぐに使えるYAMLレシピのコレクションを備えています。
READMEに記載されている主な機能:
- 約10Mから405Bパラメータまでのモデルの学習と微調整。フル微調整、LoRA、QLoRA、SFT、選好チューニング(DPO/KTO)、GRPO強化学習などの手法を使用します。最近の記述では、GRPOをツール使用に拡張し、ツール、環境(シミュレーション、ルックアップ、データベース)、エージェント型データ合成を追加することが言及されています。
- テキストおよびマルチモーダル(視覚言語)モデルのサポート。Qwen、DeepSeek R1、Llama、Falcon、Gemma、OLMo、Phi、InternVLなどのサンプルレシピがあります。
- LLM-as-a-Judgeワークフローを用いたデータ合成とキュレーション。ジャッジAPIや、推論、ジャッジ、データ合成にわたる部分失敗の処理を含みます。
- `oumi evaluate`コマンドと評価レシによる標準ベンチマークでの評価。
- vLLMやSGLangなどのエンジンによる推論とデプロイ。さらに、fireworks.aiやparasailなどのプロバイダー上で専用推論エンドポイントを提供する`oumi deploy`コマンドがあります。
- `oumi launch up`によるクラウドプラットフォーム(AWS、Azure、GCP、Lambda)上でのリモートジョブ起動。リソースやクラウドのオーバーライドに対応します。
- オープンウェイトモデルと商用API(OpenAI、Anthropic、Vertex AI、Together、Parasail)の両方との統合。バッチAPIサポートを含みます。
- 分散学習サポート(FSDP、DeepSpeed、DDP)とモデル量子化(AWQ)がリリースノートで言及されています。
- ClaudeやCursorなどのツールと統合するための`oumi-mcp` MCPサーバー。
インストール方法には、pip/uv(`oumi`、`oumi[gpu]`)、Dockerイメージ、実験的なインストールスクリプトがあります。一般的なCLIの使用法は、`oumi train -c <config>`、`oumi evaluate -c <config>`、`oumi infer -c <config> --interactive`です。このプロジェクトは、安定したコア機能を備えたベータ版であると述べており、ドキュメント、クイックスタートガイド、ツアー、微調整、蒸留、評価、リモート学習、ジャッジ用のノートブック(Colab)へのリンクがあります。
READMEは、ゼロボイラープレートのレシピ、研究のための再現性、幅広いモデルサポート、ベンダーロックインのない完全にオープンソースでコミュニティ指向のアプローチを強調しています。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.