À propos du projet
OpenAI Relay est un service relais léger conçu pour acheminer les requêtes API vers différents services backends compatibles OpenAI en utilisant des préfixes de modèle. Il est construit avec le runtime Bun mais conserve également sa compatibilité avec Deno et Node.js.
Les fonctionnalités clés incluent :
- Compatibilité avec la spécification de l'API OpenAI.
- Configuration via des variables d'environnement pour les fournisseurs, les mappages de modèles et les clés API.
- Multiples options de déploiement incluant Docker, des charts Helm pour Kubernetes, et l'exécution directe via Bun, Deno ou Node.js.
- Disponibilité sur JSR et npm pour une intégration facile.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.