simple-router

Simple Routerは、Next.jsで構築された軽量なセルフホスト型ゲートウェイです。OpenAI、Gemini、Anthropic、Groq、OpenRouter、Alibaba DashScope、およびOllamaやvLLMなどのローカルサーバーを含む、さまざまなAIプロバイダーに、統一されたOpenAI互換API形式でアクセスすることを可能にします。 主な機能は以下の通りです： - 統一APIエンドポイント：チャット完了、レスポンス、埋め込み、画像生成、モデルリストをサポートし、既存のOpenAI SDKとの互換性を確保しています。 - 高度なルーティング：固定、ランダム、ラウンドロビン、重み付け、優先フェイルオーバーなどの複数のルーティング戦略をサポートしています。 - 仮想モデル：APIキーを仮想モデルとして機能させることができ、管理者はプロジェクトごとに特定のモデルリストやルーティング戦略を定義できます。 - 管理ツール：メトリクスの監視、プロバイダーとキーの管理、利用分析の追跡、検索可能なログの閲覧が可能な管理ダッシュボードを備えています。 - レート制限と追跡：キーごとのレート制限（分間/日間のリクエスト数/トークン数）および、トークン数とレイテンシに基づくコスト見積もりを提供します。 - セキュリティ：セッションベースのログイン、JWT APIトークン、および保存済みAPIキーに対するAES-256-GCM暗号化機能を搭載しています。 - ストリーミングサポート：チャット完了のためのServer-Sent Events (SSE) をサポートしており、Anthropicなどのプロバイダー向けのフォーマット変換も含みます。