Промышленный, совместимый с OpenAI умный роутер LLM и прокси-сервер с функцией отката, который оптимизирует затраты, направляя простые запросы к малым языковым моделям (SLM), а сложные — к передовым моделям.
Открытый код. Новые возможности.
Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONRouteTok — локальный роутер инференса LLM с API, совместимыми с OpenAI и Anthropic, отказоустойчивым fallback, мульти-провайдерными каталогами, панелью управления и модельной песочницей.
Token Station — локальный шлюз-маршрутизатор для ИИ-агентов и LLM-провайдеров. Маршрутизирует Claude Code, Cursor, Codex, Gemini CLI и другие через loopback-шлюз с интеллектуальным выбором уровня, маршрутизацией с учётом квот и отслеживанием использования.
LLM Router — сервер для маршрутизации OpenAI-совместимых API-запросов между разными LLM-провайдерами с автоматической конвертацией форматов и стратегиями балансировки.
Switchboard — локальный AI-шлюз, маршрутизирующий запросы через 16 провайдеров с приоритетом бесплатных тарифов, автоматическим fallback и полной логикой решений. Работает локально, без облачного телеметрии.