mithril

Mithrilは、Rust（Python CLIラッパー付き）で書かれたオープンソースのマルチモデルオーケストレーションエンジンであり、複数のLLMプロバイダーを単一の統合APIエンドポイントに結合します。このプロジェクトの核となる価値提案は、各AIプロバイダーごとに個別の統合を管理する必要性を排除することです。ユーザーはYAML設定ファイルで「フェローシップ」—AIモデルのチーム—を定義し、任意のOllama互換またはOpenAI互換クライアントをMithrilのAPIに向けるだけです。 オーケストレーションエンジンは3つのプロバイダータイプをサポートしています：ローカルGGUFモデル（llama.cpp経由、無料でプライベート）、クラウドAPIプロバイダー（Gemini、OpenAI、Anthropic、Groq）、そしてCLIツール（Kiro、Junie、GitHub Copilot、または独自のモデルアクセスを持つ任意のCLI）です。ローカルGGUFモデルがデフォルトのコントローラー/ルーターとして機能し、受信リクエストを分類して、フェローシップ設定に基づいて適切なエージェントに委任します。エージェントはNEXT/TASKプロトコルを介して通信し、互いに作業を委任できます。例えば、コーダーエージェントはレビューアーエージェントにコードレビューを引き継ぐことができます。 システムは3つのAPIプロトコルを同時に公開します：Ollama API（Junie、OpenCode、Open WebUIなどのツール向け）、OpenAI互換API（LangChain、LlamaIndex、カスタムPythonクライアント向け）、そしてClaude Desktop統合のためのMCP（Model Context Protocol）です。つまり、既存のAIツールは変更なしでMithrilに接続でき、ベースURLを変更するだけです。 Mithrilには24の組み込みツールが同梱されており、ファイル操作（read、write、edit、delete、apply_patch）、端末実行（サンドボックス化）、ファイル検出（list、grep、find、glob、stats）、Git統合（status、log、diff、blame、branch）、ウェブアクセス（search、fetch）、コード分析（シンボル検索、ドキュメントアウトライン）、ナレッジ管理（lore write/read）、インタラクション（todo、question）にわたります。エージェントには、フェローシップYAMLを介して特定のツールまたはすべてのツールへのアクセスを許可できます。 インストールは柔軟です：Linux/macOS向けのワンライナーシェルスクリプト、Python/Jupyter環境向けのpip install、macOS/Linux向けのHomebrew tap、主要プラットフォーム向けのスタンドアロン事前ビルドバイナリ（Linux x86_64/ARM64、macOS Apple Silicon/Intel、Windows x86_64）、Docker（単一コンテナまたはDocker Compose）、そしてCargoを使ったソースからのビルドがあります。APIキーはArgon2id + AES-256-GCMで暗号化されてローカル設定ファイルに保存されるか、Docker/CIデプロイメント用に環境変数を介して渡されます。 CLIには、タブ補完付きの対話型REPL、フルスクリーンのTUIモード、CI/スクリプト用の非対話型実行、ファイル展開（@file）、エージェントルーティング（#agent）、プラン/ビルドモード、アンドゥ/リドゥ、セッション永続化、カスタムコマンド、フックが含まれています。また、Telegramを介して同じフェローシップとチャットするためのTelegramボットモードも利用できます。 ユースケースには、AIコーディングアシスタント（Junie、OpenCode）のバックエンドとしての利用、Dockerを介したチーム向け共有オーケストレーションバックエンド、pipによるPythonデータサイエンス統合、Claude Desktop用のMCPサーバーなどがあります。アーキテクチャは拡張性を考慮して設計されており、新しいプロバイダー、ツール、エージェントタイプをフェローシップ設定システムを通じて追加できます。