omniroute

OmniRoute es una pasarela de IA autoalojada que agrupa el acceso a más de 352 proveedores de IA y más de 1200 modelos, incluidos Claude, GPT, Gemini, GLM, DeepSeek, Kimi y MiniMax, detrás de un solo punto final local. Licenciado bajo MIT, no requiere configuración y funciona inmediatamente después de la instalación sin claves de API ni inscripciones. ## Lo que hace OmniRoute agrupa a más de 352 proveedores de IA que ofrecen más de 1200 modelos, incluidos Claude, GPT, Gemini, GLM, DeepSeek, Kimi y MiniMax. Más de 150 de estos niveles de proveedor son gratuitos, con una piscina catalogada estimada en aproximadamente 1.47 mil millones de tokens gratuitos por mes. La pasarela normaliza a todos los proveedores detrás de un punto final compatible con OpenAI `/v1`, por lo que cualquier herramienta compatible se conecta sin SDK específicos del proveedor. ## Características clave - **Enrutamiento automático de caídas**: Un enrutador con conciencia de cuota cae automáticamente en cuatro niveles de proveedor (Suscripción → Clave de API → Barato → Gratis) cuando se producen límites de tasa o fallas, manteniendo su flujo de trabajo ininterrumpido. - **Compresión de tokens**: La pila RTK y Caveman reduce el uso de tokens en un 15-95% (promedio ~89%) en las cargas de trabajo elegibles, ayudando a estirar las cuotas gratuitas. - **19 estrategias de enrutamiento**: Enrutamiento de solicitudes flexible con interrupteres de circuito, enfriamiento de claves y protección de bloqueo de modelo. - **Soporte MCP y A2A**: Integración nativa del Protocolo de contexto del modelo y el protocolo de agente a agente. - **Primero local**: Todas las solicitudes pasan por `localhost:20128`. Las claves de cifrado utilizan AES-256-GCM; no se tuneliza tráfico de proveedor a través de nubes de terceros. - **TLS sigiloso**: Mascarado opcional de TLS a nivel de proxy. - **Telemetría en vivo**: Los tableros en tiempo real rastrean el uso, las cuotas, los ahorros y la latencia p95 en todos los proveedores conectados. - **Guardarrobles y evaluaciones**: Guardarrobles de producción, evaluaciones y miles de declaraciones de prueba estáticas. ## Herramientas compatibles OmniRoute se diseñó como una backend de intercambio para herramientas de desarrollador y codificación, incluidas Claude Code, Codex, Cursor, OpenCode, Cline, GitHub Copilot y otras. Un proveedor preconfigurado gratuito (OpenCode Free) responde inmediatamente en una instalación fresca utilizando el identificador de modelo `auto`. ## Opciones de implementación La pasarela está disponible a través de npm (`npm i -g omniroute`), Docker Hub, aplicación de escritorio de Electron y PWA, lo que brinda a los usuarios flexibilidad en cómo la ejecutan. Se proporcionan scripts de inicio rápido para Python, Node.js, PHP y cURL. ## Arquitectura El enrutador inteligente se encuentra entre la capa del llamador y la del proveedor, aplicando la compresión y seleccionando proveedores del catálogo según la disponibilidad de cuota, nivel de costo y estrategia de enrutamiento. Las claves de proveedor se agrupan para una distribución justa entre los equipos que comparten una sola suscripción. Un catálogo de riesgos de términos indica a los usuarios 13 proveedores donde deben revisar las condiciones antes de su uso. ## Comunidad y contribuyentes Construido por más de 550 contribuyentes, OmniRoute tiene traducciones en 51 idiomas. Los canales de soporte incluyen Discord, Telegram, grupos de WhatsApp y un roadmap público que apunta a la versión v3.9.0 LTS.