À propos du projet

MultiRouter AI agit comme un point de terminaison API unique qui route intelligemment les requêtes de complétion de chat entre plusieurs comptes de fournisseurs d'IA. Il permet aux utilisateurs d'empiler des clés API de niveaux gratuits provenant de services tels que Groq, Cerebras et Gemini, avec un basculement automatique lorsqu'un compte atteint ses limites de débit. Le système est entièrement compatible avec la spécification de l'API OpenAI, ce qui le rend prêt à l'emploi pour des IDE tels que Cursor, Windsurf, Claude Code, Aider et d'autres supportant des URL de base OpenAI personnalisées. La configuration est gérée via un fichier YAML (`providers.yaml`) où les utilisateurs définissent les instances de fournisseurs, les clés API, les modèles supportés et la priorité de routage. Les fournisseurs sont essayés dans l'ordre — généralement les niveaux gratuits en premier, les payants en dernier — avec un refroidissement et une réactivation automatiques après l'expiration des limites de débit. Deux stratégies de routage sont disponibles : 'exhaust' (par défaut), qui utilise chaque fournisseur jusqu'à épuisement, et 'round-robin', qui distribue les requêtes uniformément entre les instances actives en utilisant le nom de modèle spécial `multirouter-auto`. Le serveur supporte les réponses en streaming via Server-Sent Events (SSE) au format OpenAI, et expose des points de terminaison standards tels que `/v1/chat/completions`, `/v1/models` et `/health`. Il fonctionne sous Node.js 20+ avec Express 5 et TypeScript 5.9, inclut une limitation de débit intégrée et une authentification via jeton bearer, et peut intégrer des modèles locaux ou auto-hébergés via le type de fournisseur `openai-compatible` avec une `base_url` personnalisée. Les meilleures pratiques de sécurité incluent l'exclusion de `providers.yaml` dans git et le support de l'interpolation de variables d'environnement pour les secrets. Le projet est sous licence MIT et conçu pour les développeurs recherchant un accès ininterrompu à l'IA en regroupant les quotas de plusieurs fournisseurs sans modifier les applications clientes.