このプロジェクトについて
RouteTokはOpenAI互換およびAnthropic互換APIを持つローカルファーストの推論ルーターです。耐障害性の高いマルチプロバイダプロキシ、運用ダッシュボード、スタンドアロンモデルFieldbookを、依存関係が少ないNode.jsサービスに統合しています。
### 3つのサーフェス、1つのルーター
- **プロキシ(`/v1`)**:既存のOpenAIおよびAnthropicクライアントに、明示的なルーティング、健全性対応フェールオーバー、正統なモデルID、利用メタデータの付いた単一の安定エンドポイントを提供します。
- **ダッシュボード(`/dashboard`)**:プロバイダ、資格情報、モデルカタログ、ルート順序、カスタムカスケード、ヘルスサーキット、コスト、ライブリクエスト、保持テレメトリを操作できます。
- **サンクボックス(`/sandbox`)**:Chat、Compare、Room、Evaluate、Images、ブラウザローカルマルチエージェントStudioワークフロー向けのスタンドアロンModel Fieldbookを提供します。
### 特徴
- OpenAI Chat Completions、OpenAI Responses、Anthropic Messagesとの互換性
- モデル間でストリームを splice しない、健全性対応のプリアウトプットフォールバック
- バチャルルート:`auto`、`best`、`free`、および順序付きカスタムカスケード
- プロバイダ分離の資格情報と `openrouter:model-id` のような正統なルート
- 有料または未定義価格の外部モデルに対する明示的有効化
- ライブリクエストテレメトリ、履歴メトリクス、TTFT、スループット、トークン、キャッシュ活動、コスト
- ブラウザローカルのFieldbookノート、評価、ルーム、スクラッチパッド、バチャルStudioプロジェクト
- オpaqueでネットワークブロックされたHTML/SVG/canvasプレビューとエフェメラ生成メディア
### クイックスタート
要件:Node.js 22以降(ネイティブインスコ)、またはDocker Engine + Docker Compose(コンテナデプロイ)。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.