このプロジェクトについて
OpenAI Relayは、モデルプレフィックスを使用してAPIリクエストを異なるOpenAI互換バックエンドサービスへルーティングするために設計された軽量なリレーサービスです。Bunランタイムを基盤に構築されていますが、DenoおよびNode.jsとの互換性も維持しています。
主な機能は以下の通りです:
- OpenAI API仕様との互換性
- プロバイダー、モデルマッピング、APIキーの設定を環境変数で管理可能
- Docker、Kubernetes用Helmチャート、Bun/Deno/Node.jsによる直接実行など、複数のデプロイオプションを提供
- JSRおよびnpmで提供されており、容易に統合可能
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.