このプロジェクトについて
LiteLLMは、OpenAI、Anthropic、Gemini、Bedrock、Azureなどのプロバイダーとやり取りするための単一のインターフェースを提供することで、複数の大規模言語モデル（LLM）の統合を簡素化します。直接的なライブラリ統合のためのPython SDKとして利用できるほか、組織的な利用のための集中型AI Gateway（プロキシサーバー）として展開することも可能です。
主な機能は以下の通りです：
- 統一API：100以上のLLMに対する単一のインターフェースを提供し、プロバイダー固有のSDKの必要性を排除します。
- OpenAI互換性：アプリケーションコードを書き直すことなく、LLMプロバイダーの切り替えが可能です。
- 本番環境向けGateway機能：仮想キー、支出追跡、ガードレール、ロードバランシング、および管理ダッシュボードをサポートしています。
- A2Aエージェントサポート：LangGraph、Vertex AI Agent Engine、Azure AI Foundryなどのプロバイダーからエージェントを呼び出すことが可能です。
- MCPツール統合：SDKまたはGatewayを介して、Model Context Protocol (MCP) サーバーを任意のLLMに接続します。
- 幅広いエンドポイントサポート：/chat/completions、/embeddings、/images、/audio、/rerankを含む様々なエンドポイントをサポートしています。