omniroute

OmniRoute est une passerelle IA auto-hébergée qui centralise l'accès à des centaines de fournisseurs et modèles IA derrière une seule endpoint local. Sous licence MIT, elle nécessite zéro configuration et fonctionne immédiatement après installation sans aucune clé API ou inscription. ## Ce qu'elle fait OmniRoute agrège plus de 352 fournisseurs IA offrant plus de 1 200 modèles, dont Claude, GPT, Gemini, GLM, DeepSeek, Kimi et MiniMax. Plus de 150 de ces niveaux fournisseur sont gratuits, avec un pool catalogué estimé à environ 1,47 milliard de tokens gratuits par mois. La passerelle normalise tous les fournisseurs derrière une endpoint OpenAI-compatible `/v1`, permettant à tout outil compatible de se connecter sans SDK spécifiques au fournisseur. ## Fonctionnalités clés - **Routage auto-fallback** : Un routeur conscient des quotas bascule automatiquement entre quatre niveaux de fournisseur (Abonnement → Clé API → Bon marché → Gratuit) lorsque les limites de taux ou les échecs se produisent, maintenant votre flux de travail intact. - **Compression de tokens** : La compression empilée RTK et Caveman réduit l'utilisation de tokens de 15 à 95% (moyenne ~89%) sur les charges utiles éligibles, aidant à étirer davantage les quotas gratuits. - **19 stratégies de routage** : Routage flexible des requêtes avec disjoncteurs, refroidissement de clés et protection contre le verrouillage de modèles. - **Support MCP et A2A** : Intégration native du Model Context Protocol et du Agent-to-Agent protocol. - **Local-first** : Toutes les requêtes transitent par `localhost:20128`. Les clés de chiffrement utilisent AES-256-GCM ; aucun trafic fournisseur n'est tunnélisé via des clouds tiers. - **TLS stealth** : Masquage TLS optionnel au niveau proxy. - **Télémétrie en direct** : Tableaux de bord en temps réel suivent l'utilisation, les quotas, les économies et la latence p95 sur tous les fournisseurs connectés. - **Garantis et évaluations** : Garantis de qualité production, évaluations et milliers de déclarations de test statiques. ## Outils compatibles OmniRoute est conçu comme un backend compatible pour les outils développeur et de codage, incluant Claude Code, Codex, Cursor, OpenCode, Cline, GitHub Copilot et autres. Un fournisseur pré-câblé sans clé (OpenCode Free) répond immédiatement sur une installation fraîche utilisant l'identifiant de modèle `auto`. ## Options de déploiement La passerelle est disponible via npm (`npm i -g omniroute`), Docker Hub, application desktop Electron et PWA, offrant aux utilisateurs une flexibilité sur la façon de l'exécuter. Des scripts de démarrage rapide sont fournis pour Python, Node.js, PHP et cURL. ## Architecture Le Smart Router se situe entre l'appelant et la couche fournisseur, appliquant la compression et sélectionnant les fournisseurs du catalogue en fonction de la disponibilité des quotas, du niveau de coût et de la stratégie de routage. Les clés fournisseur sont mutualisées pour une distribution équitable entre équipes partageant un seul abonnement. Un catalogue de risque de conditions signale 13 fournisseurs où les utilisateurs devraient revoir les conditions avant utilisation. ## Communauté et contributeurs Construit par plus de 550 contributeurs, OmniRoute dispose de traductions dans 51 langues. Les canaux de support incluent Discord, Telegram, groupes WhatsApp et une roadmap publique ciblant la v3.9.0 LTS.