unified-llm-engineTEJA4704
新着Unified LLM Engineは、OpenAI、Anthropic、Geminiなど複数のLLMプロバイダを統一的なAPIでアクセス可能にし、自動フォールバック、コスト追跡、キャッシング、非同期対応を実現するPythonライブラリ。
優れたオープンソースプロジェクトを見つけ、匿名でプロジェクトを投稿し、自分のプロジェクトを申請して編集できます。
好奇心とともに、オープンソースの世界へ。
THE FIRST COLLECTIONUnified LLM Engineは、OpenAI、Anthropic、Geminiなど複数のLLMプロバイダを統一的なAPIでアクセス可能にし、自動フォールバック、コスト追跡、キャッシング、非同期対応を実現するPythonライブラリ。
llm-apipoolは40以上の無料LLM APIを1つのOpenAI互換エンドポイントに統合するセルフホスト型ツール。キーの自動ローテーション、レート制限対応、使用量追跡、CLI/TUI/プロキシ/LangChain連携をサポート。
依存関係のない Python ライブラリで、さまざまな LLM API を OpenAI 互換形式に変換し、プロバイダー間の自動フェイルオーバーを実現します。
ゼロ依存のルータが複数の無料LLM APIティアを単一の復元力あるOpenAI互換エンドポイントに統合し、自動フェイルオーバーを実現。