multirouter-ai

MultiRouter AIは、複数のAIプロバイダーアカウントにチャット完了リクエストをインテリジェントにルーティングする単一のAPIエンドポイントとして機能します。これにより、Groq、Cerebras、Geminiなどのサービスの無料枠APIキーを積み重ねることができ、一つのアカウントがレート制限に達した際に自動的にフェイルオーバーします。本システムはOpenAI API仕様に完全に準拠しており、Cursor、Windsurf、Claude Code、Aiderなど、カスタムOpenAIベースURLをサポートするIDEにとってプラグアンドプレイで導入可能です。 設定はYAMLファイル（`providers.yaml`）で管理され、ユーザーはプロバイダーインスタンス、APIキー、サポートモデル、およびルーティング優先順位を定義します。プロバイダーは通常、無料枠から優先的に試行され、有料枠が最後になります。レート制限が切れた後は、自動的にクールダウンと再アクティブ化が行われます。ルーティング戦略には、各プロバイダーを使い切るまで使用する「exhaust」（デフォルト）と、特殊なモデル名`multirouter-auto`を使用してアクティブなインスタンスにリクエストを均等に分散させる「round-robin」の2種類が用意されています。 サーバーはOpenAI形式のServer-Sent Events (SSE) によるストリーミングレスポンスをサポートし、`/v1/chat/completions`、`/v1/models`、`/health` などの標準エンドポイントを提供します。Node.js 20+、Express 5、TypeScript 5.9で動作し、組み込みのレート制限とベアラートークンによる認証を備えています。また、`openai-compatible`プロバイダータイプとカスタム`base_url`を使用することで、ローカルまたはセルフホストモデルを統合することも可能です。 セキュリティのベストプラクティスとして、gitで`providers.yaml`を無視することや、シークレットのための環境変数補完をサポートしています。本プロジェクトはMITライセンスであり、クライアントアプリケーションを変更することなく、複数のプロバイダーのクォータをプールして中断のないAIアクセスを求める開発者向けに設計されています。