gpt-load

GPT-Loadは、複数のAIプロバイダーと認証情報を単一のエントリポイントで管理するために設計されたセルフホスト型AIゲートウェイです。APIキーとサブスクリプションアカウント（Codex、Claude、Antigravity、Grokなど）の両方をサポートし、統合された認証情報管理、トラフィックスケジューリング、リトライ、クールダウン、ブラックリスト、セッションアフィニティを提供して、過負荷または失敗した認証情報の影響を軽減します。 このゲートウェイはネイティブのOpenAI、Anthropic、Geminiプロトコルを公開しており、クライアントは既存のインターフェースを維持したまま、リクエストをさまざまな上流サービスにルーティングできます。組み込みチャネルには、公式およびクラウドプロバイダー（OpenAI、Anthropic、Gemini、xAI、Azure OpenAI、AWS Bedrock、Google Vertex AI）、モデルサービス（DeepSeek、Moonshot AI、SiliconFlow、Zhipu AI、Alibaba、Volcengine、OpenRouter、Groq）、サブスクリプションチャネル、カスタムのOpenAI互換リレーが含まれます。 主な機能は次のとおりです。 - 設定可能な重み、リトライ、クールダウン、ブラックリスト、セッションアフィニティを備えたマルチ認証情報スケジューリング - 組み込みの管理UIでのリクエストログ、使用統計、コスト見積もり - SQLite、MySQL、またはPostgreSQLデータベースのサポートとローカル認証情報の暗号化 - 簡単なクイックスタートを備えたDocker Composeデプロイ - Linux、macOS、Windows向けのネイティブバイナリビルド（Windows Setupインストーラーを含む） - ネットワーク、データベース、ログ、セキュリティ設定のための環境変数構成 GPT-Load 2.0は完全な書き直しであり、1.xのデータをその場で移行することはできません。単一のアプリケーションインスタンス向けに設計されており、水平スケーリングはサポートしていません。使用量とコストの数値は見積もりであり、財務記録として扱うべきではありません。 このプロジェクトはMITライセンスであり、Bifrost Core、CLIProxyAPI、Lobe Iconsなどのオープンソースコンポーネントに依存しています。