このプロジェクトについて

AI Gatewayは、高性能でスケーラブルなAIモデルAPIゲートウェイであり、複数の大規模モデルサービスに統一された呼び出し入口を提供します。OpenAI APIフォーマットとの互換性を備え、開発者は1つのコードベースでOpenAI、Anthropic（Claude）、通義千問（DashScope）、Ollamaなど複数のプロバイダーに接続できます。Chat、Vision、Image Generation、Speech-to-Text、Text-to-Speech、Embeddingsなど、全モダリティ機能に対応しています。 システムはGo＋Ginを基盤として構築され、高同時実行数処理能力を備え、ステートレス設計により水平拡張が可能です。Prometheusメトリクス、構造化ログ、リクエスト追跡、トークンバケットレート制限、API Keyクォータ管理を内蔵し、MySQL/PostgreSQLストレージバックエンドおよびメモリ/Redisキャッシュをサポートします。 ヘルスチェック、API Key管理、利用統計などの機能を提供し、企業や個人のプライベートAIサービスデプロイを容易にします。プロジェクト構造は明確で、開発者が新しいProviderを簡単に追加できるように設計されています。複数のAIサービスを一括で統合接入し、トラフィック制御、モニタリング、コスト管理を行うシーンに最適です。