À propos du projet
RouteTok est un routeur d'inférence local-first compatible avec les API OpenAI et Anthropic. Il combine un proxy multi-fournisseurs résilient, un tableau de bord de gestion et un Fieldbook de modèles autonome au sein d'un service Node.js léger en dépendances.
### Trois interfaces, un seul routeur
- **Proxy (`/v1`)** : Offre aux clients OpenAI et Anthropic existants un point de terminaison stable avec routage explicite, bascule consciente de l'état de santé, identifiants canoniques de modèle et métadonnées d'utilisation.
- **Tableau de bord (`/dashboard`)** : Gère les fournisseurs, les identifiants, les catalogues de modèles, les ordres de routage, les cascades personnalisées, les circuits de santé, les coûts, les requêtes en direct et la télémétrie conservée.
- **Bac à sable (`/sandbox`)** : Fournit le Fieldbook de modèles autonome pour les flux de travail Chat, Compare, Room, Evaluate, Images et Studio multi-agents locaux dans le navigateur.
### Points saillants
- Compatibilité OpenAI Chat Completions, OpenAI Responses et Anthropic Messages
- Bascule pré-sortie consciente de l'état de santé sans découpage de flux entre modèles
- Routes virtuelles : `auto`, `best`, `free`, ainsi que des cascades personnalisées ordonnées
- Identifiants isolés par fournisseur et routes canoniques telles que `openrouter:model-id`
- Activation explicite pour les modèles externes payants ou à prix inconnu
- Télémétrie des requêtes en direct, métriques historiques, TTFT, débit, tokens, activité du cache et coût
- Notes, évaluations, salles, blocs-notes et projets Studio virtuels locaux dans le Fieldbook
- Aperçus HTML/SVG/canvas opaque et blocage réseau, ainsi que médias générés éphémères
### Démarrage rapide
Exigences : Node.js 22 ou plus récent pour une installation native, ou Docker Engine avec Docker Compose pour le déploiement en conteneur.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.