Sobre o projeto
RouteTok é um roteador de inferência local-first com APIs compatíveis com OpenAI e Anthropic. Combina um proxy multiprovedor resiliente, um painel de operações e um Fieldbook de modelos standalone em um único serviço Node.js leve em dependências.
### Três Superfícies, Um Roteador
- **Proxy (`/v1`)**: Oferece a clientes OpenAI e Anthropic existentes um endpoint estável com roteamento explícito, failover consciente da saúde, IDs canônicos de modelo e metadados de uso.
- **Painel (`/dashboard`)**: Gerencia provedores, credenciais, catálogos de modelos, ordens de rota, cascatas personalizadas, circuitos de saúde, custos, requisições ao vivo e telemetria retida.
- **Sandbox (`/sandbox`)**: Fornece o Model Fieldbook standalone para fluxos de trabalho Chat, Compare, Room, Evaluate, Images e Studio multi-agentes no navegador.
### Destaques
- Compatibilidade com OpenAI Chat Completions, OpenAI Responses e Anthropic Messages
- Fallback pré-output sensível à saúde sem costurar streams entre modelos
- Rotas virtuais: `auto`, `best`, `free`, além de cascatas customizadas ordenadas
- Credenciais isoladas por provedor e rotas canônicas como `openrouter:model-id`
- Habilitação explícita para modelos externos pagos ou de preço desconhecido
- Telemetria de requisições ao vivo, métricas históricas, TTFT, throughput, tokens, atividade de cache e custos
- Notas, avaliações, salas, blocos de rascunho e projetos Studio virtuais no Fieldbook local no navegador
- Pré-visualizações HTML/SVG/canvas opacas, bloqueadas por rede, e mídia gerada efêmera
### Início Rápido
Requisitos: Node.js 22 ou superior para instalação nativa, ou Docker Engine com Docker Compose para implantação em contêiner.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.