À propos du projet
Wynth API est un fork descendant de New API conçu comme une passerelle LLM de nouvelle génération et un système de gestion d'actifs IA. Il fournit une interface centralisée pour gérer plusieurs fournisseurs de modèles d'IA, offrant l'authentification au niveau de l'organisation, l'analyse d'utilisation et la comptabilité des coûts.
Les capacités clés incluent :
- Account Pooling : Pooling de comptes multi-plateformes pour OpenAI, Anthropic, Gemini, Vertex AI, xAI et grok.com, avec des délais de refroidissement basés sur le grade d'échec, une sélection sensible à la charge et des contrôles de concurrence par utilisateur.
- Support des Modèles : Intégration avec les modèles compatibles OpenAI, Claude (format Messages), Google Gemini, Midjourney-Proxy, Suno-API et les modèles Rerank (Cohere, Jina).
- Routage Intelligent : Supporte la sélection de canaux aléatoire pondérée, les tentatives automatiques en cas d'échec et la limitation du débit au niveau de l'utilisateur.
- Conversion de Format : Traduit entre les formats compatibles OpenAI, Claude Messages et Google Gemini.
- Outils de Gestion : Une interface utilisateur moderne avec un tableau de bord de données, la gestion des permissions (groupement de jetons, restrictions de modèles) et le support de diverses méthodes d'authentification incluant OIDC, Discord, Telegram et LinuxDO.
- Déploiement : Supporte Docker et Docker Compose, avec des options de base de données pour SQLite, MySQL et PostgreSQL.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.