Об этом проекте
OpenAI Relay — это лёгкий ретрансляционный сервис, предназначенный для маршрутизации API-запросов к различным OpenAI-совместимым бэкенд-сервисам с использованием префиксов моделей. Он создан на базе среды выполнения Bun, но также сохраняет совместимость с Deno и Node.js.
Основные возможности:
- Совместимость со спецификацией OpenAI API.
- Конфигурация через переменные окружения для провайдеров, сопоставления моделей и API-ключей.
- Несколько вариантов развёртывания, включая Docker, Helm-чарты для Kubernetes и прямое выполнение через Bun, Deno или Node.js.
- Доступность в JSR и npm для простой интеграции.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.