Sobre o projeto
OpenProxy é um serviço self-hosted que atua como proxy de API para múltiplos provedores de IA, como OpenAI e Anthropic. Ele expõe uma interface de API unificada compatível com os endpoints `/v1/chat/completions` da OpenAI e `/v1/messages` da Anthropic. O sistema suporta failover entre múltiplos provedores com balanceamento de carga ponderado e fallback automático em caso de falha. Permite rotação de múltiplas chaves por provedor para evitar limites de taxa, despriorizando combinações de chaves recentemente utilizadas. Administradores podem gerenciar chaves de API com cotas, expiração e controles de acesso a modelos. O uso é rastreado por requisição, incluindo custo, tempo de resposta e atribuição do provedor. Um painel administrativo web permite o gerenciamento de modelos, provedores, usuários e pedidos, enquanto os tenants têm dashboards com gráficos de uso, saldos e histórico de requisições. As chaves de API dos provedores são armazenadas de forma criptografada usando RSA. As opções de autenticação incluem email/senha, OTP por telefone, GitHub e Google via better-auth. O uso de exemplo envolve o envio de requisições padrão no estilo OpenAI ao endpoint do proxy com um bearer token. Licença MIT.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.