Um roteador de LLM inteligente e proxy de fallback de nível de produção, compatível com OpenAI, que otimiza custos ao rotear consultas simples para Small Language Models (SLMs) e complexas para modelos de fronteira.
Código aberto. Novas possibilidades.
Descubra projetos open source de qualidade, envie projetos anonimamente e reivindique e edite seu próprio projeto.
Um pouco de curiosidade. Um mundo de código aberto.
THE FIRST COLLECTIONRouteTok é um roteador de inferência LLM local-first com APIs compatíveis com OpenAI e Anthropic, failover sensível à saúde, catálogos multi-provedores, painel operacional e sandbox de modelos.
Token Station é um gateway local de roteamento para agentes de IA e provedores de LLM. Roteie Claude Code, Cursor, Codex, Gemini CLI e outros por um gateway somente loopback com seleção inteligente de camadas, roteamento com reconhecimento de cota e rastreamento de uso.
O LLM Router é um servidor que roteia solicitações de API compatíveis com OpenAI entre diferentes provedores de LLM, convertendo formatos entre OpenAI, Anthropic e Gemini.
Gateway de IA local que roteia requisições entre 16 provedores com prioridade a tiers gratuitos, fallback automático e registro completo de decisões. Funciona localmente, sem telemetria em nuvem.