omniroute

OmniRouteは、ローカルエンドポイント1つで数百のAIプロバイダーとモデルへのアクセスを統合する、セルフホスト型のAIゲートウェイです。MITライセンスの下で提供され、設定不要で、APIキーやサインアップなしでインストール後すぐに動作します。 ## 何をするものか OmniRouteは、Claude、GPT、Gemini、GLM、DeepSeek、Kimi、MiniMaxなど、352以上のAIプロバイダーと1,200以上のモデルを集約します。これらのプロバイダーティアの150以上は無料で、月あたり約14.7億の無料トークンと推定されるカタログ化されたプールがあります。このゲートウェイは、すべてのプロバイダーをOpenAI互換の`/v1`エンドポイントの背後に正規化するため、互換性のあるツールはベンダー固有のSDKなしで接続できます。 ## 主な機能 - **自動フォールバックルーティング**: クォータを認識したルーターは、レート制限や障害が発生した場合に、4つのプロバイダーティア（サブスクリプション → APIキー → 安価 → 無料）間で自動的にフォールバックし、ワークフローを中断させません。 - **トークン圧縮**: RTKおよびCavemanスタッキング圧縮は、対象となるワークロードでトークン使用量を15〜95％（平均約89％）削減し、無料クォータをさらに伸ばすのに役立ちます。 - **19のルーティング戦略**: 回路遮断器、キークールダウン、モデルロックアウト保護を備えた柔軟なリクエストルーティング。 - **MCPおよびA2Aサポート**: ネイティブのModel Context ProtocolおよびAgent-to-Agentプロトコルの統合。 - **ローカルファースト**: すべてのリクエストは`localhost:20128`を経由してルーティングされます。暗号化キーはAES-256-GCMを使用します。プロバイダーのトラフィックはサードパーティのクラウドを経由してトンネリングされません。 - **TLSステルス**: オプションのプロキシレベルTLSマスキング。 - **ライブテレメトリ**: リアルタイムダッシュボードは、接続されているすべてのプロバイダーの使用状況、クォータ、節約額、p95レイテンシを追跡します。 - **ガードレールと評価**: 本番グレードのガードレール、評価、および数千の静的テスト宣言。 ## 互換性のあるツール OmniRouteは、Claude Code、Codex、Cursor、OpenCode、Cline、GitHub Copilotなどの開発者およびコーディングツールのドロップインバックエンドとして設計されています。事前に設定されたキーレスプロバイダー（OpenCode Free）は、`auto`モデル識別子を使用して、新規インストール時に即座に応答します。 ## デプロイメントオプション ゲートウェイは、npm（`npm i -g omniroute`）、Docker Hub、Electronデスクトップアプリ、PWA経由で利用可能であり、ユーザーは実行方法を柔軟に選択できます。Python、Node.js、PHP、cURL用のクイックスタートスクリプトが提供されています。 ## アーキテクチャ スマートルーターは、呼び出し側とプロバイダー層の間に配置され、圧縮を適用し、クォータの可用性、コストティア、ルーティング戦略に基づいてカタログからプロバイダーを選択します。プロバイダーキーは、単一のサブスクリプションを共有するチーム間で公平な配布のためにプールされます。利用規約リスクカタログは、ユーザーが使用前に条件を確認する必要がある13のプロバイダーをフラグ付けします。 ## コミュニティと貢献者 550人以上の貢献者によって構築されたOmniRouteは、51言語で翻訳されています。サポートチャネルには、Discord、Telegram、WhatsAppグループ、およびv3.9.0 LTSを対象とした公開ロードマップが含まれます。