Об этом проекте

OmniRoute — это self-hosted AI-шлюз, объединяющий доступ к сотням AI-провайдеров и моделей за единым локальным endpoint. Под лицензией MIT, он требует нулевой конфигурации и работает сразу после установки без API-ключей или регистрации. ## Что он делает OmniRoute агрегирует 352+ AI-провайдеров, предлагающих более 1200 моделей, включая Claude, GPT, Gemini, GLM, DeepSeek, Kimi и MiniMax. Более 150 из этих провайдерских уровней бесплатны, при этом каталог оценивается примерно в 1,47 миллиарда бесплатных токенов в месяц. Шлюз нормализует всех провайдеров за OpenAI-совместимым `/v1` endpoint, поэтому любой совместимый инструмент подключается без вендорных SDK. ## Ключевые функции - **Auto-fallback routing**: Router, учитывающий квоты, автоматически переключается между четырьмя провайдерскими уровнями (Subscription → API Key → Cheap → Free) при достижении rate limits или сбоях, обеспечивая бесперебойную работу. - **Token compression**: Сжатие RTK и Caveman stacking снижает потребление токенов на 15–95% (в среднем ~89%) на подходящих workload, помогая эффективнее расходовать бесплатные квоты. - **19 routing strategies**: Гибкая маршрутизация запросов с circuit breaker, key cooldown и защитой от блокировки модели. - **MCP and A2A support**: Нативная интеграция с Model Context Protocol и Agent-to-Agent protocol. - **Local-first**: Все запросы маршрутизируются через `localhost:20128`. Ключи шифрования используют AES-256-GCM; трафик к провайдерам не проходит через сторонние облака. - **TLS stealth**: Опциональное маскирование TLS на уровне прокси. - **Live telemetry**: Real-time дашборды отслеживают использование, квоты, экономию и p95 latency по всем подключённым провайдерам. - **Guardrails and evaluations**: Guardrails, evals уровня production и тысячи статических тестовых деклараций. ## Совместимые инструменты OmniRoute создан как drop-in backend для developer- и coding-инструментов, включая Claude Code, Codex, Cursor, OpenCode, Cline, GitHub Copilot и другие. Предварительно настроенный keyless провайдер (OpenCode Free) отвечает сразу при свежей установке с использованием идентификатора модели `auto`. ## Варианты развёртывания Шлюз доступен через npm (`npm i -g omniroute`), Docker Hub, Electron desktop app и PWA, давая пользователям гибкость в выборе способа запуска. Предусмотрены quick-start скрипты для Python, Node.js, PHP и cURL. ## Архитектура Smart Router располагается между caller и provider layer, применяя компрессию и выбирая провайдеров из каталога исходя из доступных квот, ценового уровня и стратегии маршрутизации. Ключи провайдеров пуллируются для fair-share распределения между командами, использующими одну подписку. Terms-risk каталог отмечает 13 провайдеров, где пользователям следует изучить условия перед использованием. ## Сообщество и контрибьюторы OmniRoute создан более чем 550 контрибьюторами, переведён на 51 язык. Каналы поддержки включают Discord, Telegram, WhatsApp-группы и публичный roadmap, ориентированный на v3.9.0 LTS.