Sobre o projeto
Wynth API é um fork downstream do New API concebido como um gateway de LLM de próxima geração e sistema de gestão de ativos de IA. Fornece uma interface centralizada para gerir múltiplos fornecedores de modelos de IA, oferecendo autenticação ao nível da organização, análises de utilização e contabilização de custos.
As capacidades principais incluem:
- Account Pooling: Pooling de contas multiplataforma para OpenAI, Anthropic, Gemini, Vertex AI, xAI e grok.com, apresentando cooldowns de gradação de falhas, seleção consciente da carga e controlos de concorrência por utilizador.
- Suporte de Modelos: Integração com modelos compatíveis com OpenAI, Claude (formato Messages), Google Gemini, Midjourney-Proxy, Suno-API e modelos de Rerank (Cohere, Jina).
- Roteamento Inteligente: Suporta seleção de canal aleatória ponderada, tentativas automáticas em caso de falha e limitação de taxa ao nível do utilizador.
- Conversão de Formato: Traduz entre os formatos compatíveis com OpenAI, Claude Messages e Google Gemini.
- Ferramentas de Gestão: Uma UI moderna com um dashboard de dados, gestão de permissões (agrupamento de tokens, restrições de modelos) e suporte para vários métodos de autenticação, incluindo OIDC, Discord, Telegram e LinuxDO.
- Implementação: Suporta Docker e Docker Compose, com opções de base de dados para SQLite, MySQL e PostgreSQL.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.