Sobre o projeto
Zuzia Relay atua como um gateway de IA pronto para produção, projetado para ambientes Node.js. Ele consolida vários provedores de IA em um único endpoint local compatível com OpenAI, simplificando a integração de vários LLMs em aplicativos.
Os principais recursos incluem:
- Gerenciamento seguro de chaves de API e OAuth.
- Suporte para respostas em streaming.
- Roteamento de várias contas e verificações de integridade para garantir a disponibilidade.
- Mecanismos de repetição inteligente e failover automático entre modelos gratuitos e pagos.
- Uma arquitetura focada em CLI que opera sem a necessidade de um painel web.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.