Sobre el proyecto
OpenAI Relay es un servicio de reenvío ligero diseñado para enrutar solicitudes de API a diferentes servicios backend compatibles con OpenAI utilizando prefijos de modelos. Está construido con el entorno de ejecución Bun pero también mantiene compatibilidad con Deno y Node.js.
Las capacidades clave incluyen:
- Compatibilidad con la especificación de la API de OpenAI.
- Configuración mediante variables de entorno para proveedores, asignaciones de modelos y claves de API.
- Múltiples opciones de despliegue que incluyen Docker, gráficos Helm para Kubernetes y ejecución directa mediante Bun, Deno o Node.js.
- Disponibilidad en JSR y npm para una integración sencilla.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.