llm-master

LLM Masterは、単一のAPIを通じて複数のAIモデルにクエリを送信するための標準化されたインターフェースを提供します。基盤となるAPIコールを統一された形式に抽象化することで、異なるプロバイダー間の切り替えプロセスを簡素化します。 主な機能は以下の通りです： - 統合クエリインターフェース：さまざまなLLMおよび画像生成モデルと対話するための単一メソッド。 - フォールバックメカニズム：プライマリモデルが失敗した際の信頼性を確保するため、フォールバックモデルと互換構成の指定をサポート。 - 拡張可能なプロバイダーシステム：OpenAI互換APIおよび完全にカスタムな非標準APIを含む、新しいAPIプロバイダーを追加するための構造化されたフレームワーク。 - モデルレジストリ：価格設定やレート制限を含むモデル構成を管理する集中システム。 - 画像生成サポート：ポーリングベースのAPIを含む、画像生成サービス（例：Recraft.AI、Black Forest Labs）の統合機能。