Sobre o projeto
O OpenAI Relay é um serviço de relay leve projetado para rotear solicitações de API para diferentes serviços de backend compatíveis com o OpenAI usando prefixes de modelo. Foi construído com o runtime Bun, mas também mantém compatibilidade com Deno e Node.js.
Principais capacidades incluem:
- Compatibilidade com a especificação da API do OpenAI.
- Configuração por variáveis de ambiente para provedores, mapeamentos de modelos e chaves de API.
- Múltiplas opções de implantação incluindo Docker, chartes Helm para Kubernetes e execução direta via Bun, Deno ou Node.js.
- Disponibilidade no JSR e no npm para integração fácil.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.