このプロジェクトについて
New APIは、組織レベルの認証、マルチモデル管理、および利用分析向けに設計されたAI APIゲートウェイです。OpenAI、Claude、Google Geminiを含む様々なLLMへのアクセスを統合したインターフェースを提供し、Midjourney-ProxyやSuno-APIもサポートしています。
主な機能は以下の通りです:
- 統合APIフォーマット:OpenAI互換、Claude Messages、Google Geminiフォーマットをサポートし、それらの間の変換機能を内蔵しています。
- アセット管理:統計分析、トークングループ化、モデル制限のためのデータダッシュボードを備えたモダンなUIを搭載しています。
- 請求および会計:内部チャージ、クォータ割り当て、およびリクエストごとの利用量やキャッシュヒットに基づくコスト会計をサポートしています。
- セキュリティと認証:OIDC統合認証、およびDiscord、Telegram、LinuxDO経由のサードパーティログインを統合しています。
- インテリジェントルーティング:チャネルの重み付きランダム選択、自動失敗リトライ、およびユーザーレベルのレート制限を実装しています。
- デプロイメント:DockerおよびDocker Composeをサポートし、データベースはSQLite、MySQL、PostgreSQLに対応しています。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.