このプロジェクトについて
AIGateは、複数のAIサービスプロバイダのAPIを一元管理するために設計されたローカル動作のOpenAI互換リバースプロキシゲートウェイです。ユーザーは標準インターフェース一套を通じてDeepSeekやMoonshotなど異なるベンダにアクセスでき、リクエストが自動的に該当エンドポイントへルーティングされます。主な機能には、モデル名マッピング(クライアントはエイリアスを使用し、ゲートウェイが実際のモデル名に変換)、パラメータ注入(推論強度など)、SSEストリーミング透過、トークン使用量の統計、サーキットブレイカー保護機構(継続的な失敗アップストリームへのリクエストを防止)、親しみやすい中国語のエラーメッセージが含まれます。完全なビジュアル管理パネルを提供し、概要、分析、ログ記録、ルーティング設定、ヘルスステータス、設定ページを含み、ヒートマップ、トレンドグラフ、残高照会、API Keyのビジュアル編集をサポートします。ネイティブデスクトップアプリケーションとして提供され、システムトレイ、バックグラウンド実行、自動起動機能を備えています。設定ファイル(providers.jsonおよび.env)はホットリロードをサポートし、再起動なしで変更を即座に反映できます。複数のプラットフォームのAI利用を集中管理し、使用量とコストを監視・最適化し、安定性を向上させたいローカルデプロイメント環境に適しています。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.