Sobre o projeto
New API é um gateway de API de IA projetado para autenticação em nível organizacional, gestão de múltiplos modelos e análise de uso. Ele fornece uma interface unificada para acessar vários LLMs, incluindo OpenAI, Claude e Google Gemini, bem como suporte para Midjourney-Proxy e Suno-API.
As principais capacidades incluem:
- Formato de API Unificado: Suporta formatos compatíveis com OpenAI, Claude Messages e Google Gemini, com conversão integrada entre eles.
- Gestão de Ativos: Apresenta uma UI moderna com um painel de dados para análise estatística, agrupamento de tokens e restrições de modelos.
- Faturamento e Contabilidade: Suporta recargas internas, alocação de cotas e contabilidade de custos baseada no uso por requisição e hits de cache.
- Segurança e Autenticação: Integra autenticação unificada OIDC e logins de terceiros via Discord, Telegram e LinuxDO.
- Roteamento Inteligente: Implementa seleção aleatória ponderada de canais, tentativas automáticas em caso de falha e limitação de taxa (rate limiting) por usuário.
- Implantação: Suporta Docker e Docker Compose, com compatibilidade de banco de dados para SQLite, MySQL e PostgreSQL.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.