オープンソース。新しい可能性。

llm-apipoolは40以上の無料LLM APIを1つのOpenAI互換エンドポイントに統合するセルフホスト型ツール。キーの自動ローテーション、レート制限対応、使用量追跡、CLI/TUI/プロキシ/LangChain連携をサポート。

OpenAI互換のGemini Web API用プロキシ。Cookie認証でストリーミング、ツール呼び出し、複数モデルに対応し、APIキーは不要。

OmniRouteは、352以上のAIプロバイダーと1200以上のモデル（150以上の無料ティアを含む）にアクセスするための単一の統合エンドポイントを提供する、オープンソースのMITライセンスAIゲートウェイです。クォータを認識した自動フォールバック、15〜95％を節約するトークン圧縮を備え、Claude Code、Cursor、Clineなどのコーディングエージェントと統合されています。

LLMのコンテキストを圧縮し、冗長コードを除去し、セマンティックキャッシュを活用することでLLM APIのコスト削減を実現する軽量なローカルAPIプロキシ。

Kong Gateway は、プラグインベースの拡張性、ルーティング、ロードバランシング、認証、AI トラフィック機能を備えたクラウドネイティブでプラットフォームに依存しない API、LLM、MCP ゲートウェイです。