オープンソース。新しい可能性。

Kong Gateway は、プラグインベースの拡張性、ルーティング、ロードバランシング、認証、AI トラフィック機能を備えたクラウドネイティブでプラットフォームに依存しない API、LLM、MCP ゲートウェイです。

Bunランタイムで構築された軽量OpenAI APIリレーサービス。モデルプレフィックスに基づいてリクエストを様々なOpenAI互換バックエンドへルーティングする機能を提供する。

llm-apipoolは40以上の無料LLM APIを1つのOpenAI互換エンドポイントに統合するセルフホスト型ツール。キーの自動ローテーション、レート制限対応、使用量追跡、CLI/TUI/プロキシ/LangChain連携をサポート。

キーごとのトークン予算管理、レート制限、コストダッシュボード、および自動モデルダウングレード機能を備えた、軽量なOpenAI APIリバースプロキシです。

OpenAI の Chat Completions と Embeddings API 用の軽量 FastAPI プロキシ。マルチテナントキーのマッピング、ストリーミング、公式 SDK 互換性をデータベース不要で実現します。

OpenAI互換のGemini Web API用プロキシ。Cookie認証でストリーミング、ツール呼び出し、複数モデルに対応し、APIキーは不要。

OmniRouteは、352以上のAIプロバイダーと1200以上のモデル（150以上の無料ティアを含む）にアクセスするための単一の統合エンドポイントを提供する、オープンソースのMITライセンスAIゲートウェイです。クォータを認識した自動フォールバック、15〜95％を節約するトークン圧縮を備え、Claude Code、Cursor、Clineなどのコーディングエージェントと統合されています。

Smart SLM Routerは、単純なクエリを小型言語モデル（SLM）へ、複雑なクエリを最先端モデルへルーティングすることでコストを最適化する、OpenAI互換のプロダクショングレードなスマートLLMルーターおよびフォールバックプロキシです。

LiteLLMは、100以上の異なるLLMプロバイダーを呼び出すための、OpenAI互換の統一インターフェースを提供するオープンソースのAI GatewayおよびPython SDKです。

OpenAI互換のローカルAPIゲートウェイ。マルチベンダールーティング、サーキットブレイカー、中国語エラー表示、可視化マネージメントパネル、ネイティブデスクトップアプリ対応。

LLMのコンテキストを圧縮し、冗長コードを除去し、セマンティックキャッシュを活用することでLLM APIのコスト削減を実現する軽量なローカルAPIプロキシ。