omniroute

O OmniRoute é um gateway de IA auto-hospedado que consolida o acesso a centenas de provedores e modelos de IA por trás de um único endpoint local. Licenciado sob MIT, não requer configuração e funciona imediatamente após a instalação, sem chaves de API ou cadastros. ## O que ele faz O OmniRoute agrega mais de 352 provedores de IA oferecendo mais de 1.200 modelos, incluindo Claude, GPT, Gemini, GLM, DeepSeek, Kimi e MiniMax. Mais de 150 desses planos de provedor são gratuitos, com um pool catalogado estimado em aproximadamente 1,47 bilhão de tokens gratuitos por mês. O gateway normaliza todos os provedores por trás de um endpoint compatível com OpenAI `/v1`, para que qualquer ferramenta compatível se conecte sem SDKs específicos de fornecedor. ## Principais recursos - **Roteamento com fallback automático**: Um roteador com consciência de cota faz fallback automático entre quatro níveis de provedor (Assinatura → Chave de API → Barato → Gratuito) quando limites de taxa ou falhas ocorrem, mantendo seu fluxo de trabalho ininterrupto. - **Compressão de tokens**: A compressão empilhada RTK e Caveman reduz o uso de tokens em 15–95% (média de ~89%) em cargas de trabalho elegíveis, ajudando a esticar as cotas gratuitas. - **19 estratégias de roteamento**: Roteamento flexível de requisições com circuit breakers, resfriamento de chaves e proteção contra bloqueio de modelos. - **Suporte MCP e A2A**: Integração nativa com Model Context Protocol e Agent-to-Agent protocol. - **Local-first**: Todas as requisições passam por `localhost:20128`. Chaves de criptografia usam AES-256-GCM; nenhum tráfego de provedor é tunelado por nuvens de terceiros. - **TLS stealth**: Máscara TLS opcional em nível de proxy. - **Telemetria ao vivo**: Dashboards em tempo real rastreiam uso, cotas, economia e latência p95 em todos os provedores conectados. - **Guardrails e avaliações**: Guardrails, avaliações e milhares de declarações de teste estáticas de nível de produção. ## Ferramentas compatíveis O OmniRoute foi projetado como backend drop-in para ferramentas de desenvolvedor e codificação, incluindo Claude Code, Codex, Cursor, OpenCode, Cline, GitHub Copilot e outros. Um provedor pré-configurado sem chave (OpenCode Free) responde imediatamente em uma instalação fresca usando o identificador de modelo `auto`. ## Opções de implantação O gateway está disponível via npm (`npm i -g omniroute`), Docker Hub, aplicativo desktop Electron e PWA, dando aos usuários flexibilidade sobre como executá-lo. Scripts de início rápido estão disponíveis para Python, Node.js, PHP e cURL. ## Arquitetura O Smart Router fica entre o chamador e a camada de provedor, aplicando compressão e selecionando provedores do catálogo com base na disponibilidade de cota, nível de custo e estratégia de roteamento. As chaves dos provedores são agrupadas para distribuição equitativa entre equipes que compartilham uma única assinatura. Um catálogo de risco de termos sinaliza 13 provedores onde os usuários devem revisar as condições antes de usar. ## Comunidade e colaboradores Construído por mais de 550 colaboradores, o OmniRoute tem traduções em 51 idiomas. Os canais de suporte incluem Discord, Telegram, grupos de WhatsApp e um roteiro público direcionando a v3.9.0 LTS.