このプロジェクトについて
Token Stationは、AIエージェントとLLMプロバイダー向けのローカルルーティング制御プレーンです。127.0.0.1:8787でRustベースのゲートウェイとして動作し、すべてのリクエストトラフィックをローカルマシン上に保持し、明示的にルーティングされた場合にのみクラウドプロバイダーへ転送します。
主な機能:
・ローカルゲートウェイ: デフォルトではループバックのみで待ち受け、認証が有効です。プロバイダー資格情報は所有者専用のsecrets.jsonファイルに保存され、ログやプラグインに公開されることはありません。
・3つのルーティングモード: Directは単一のプロバイダー/モデルを固定し、Smart階層は単一の判断に基づいてHigh/Mid/Lowを選択し、Quota firstはより早くリセットされるバケットを先に消費します。
・プロバイダー対応: 40以上の編集可能なプリセットが付属し、カスタムのOpenAI互換エンドポイントをサポートし、Ollamaのようなローカルランタイムへもルーティングできます。
・エージェントコネクター: Claude Code、Claude Desktop、Codex、Gemini CLI、Grok Build、Kimi Code、DeepSeek Harness、Hermes Agent、OpenClaw、WorkBuddy、OpenCode、Cursor向けの組み込みコネクターがあります(現在のセットアップはmacOSのみ)。コネクターは範囲を限定したプランとプライベートスナップショットを書き込み、切断時はToken Stationのフィールドのみを削除します。
・サンドボックス化されたアダプター: 公式WASMプラグインはAnthropic Messages、OpenAI Chat Completions、OpenAI Responses、Gemini、OpenAI互換プロバイダーをカバーし、ネットワーク、ファイルシステム、資格情報へのアクセスはありません。
・使用状況追跡: プロンプト/応答本文と、範囲を限定して秘匿化したHTTPトレースをローカルに記録します。使用状況、レイテンシ、コスト見積もり、リクエストログはマシン上に留まります。
・エンタープライズ管理ルーティング: エンタープライズBase URLと資格情報を一度入力でき、実際のモデルとルーティングポリシーの制御はエンタープライズサービスが保持します。
このプロジェクトはデスクトップアプリ(macOS、Windows、Linux)とCLIの両方を提供し、どちらも同じRustコアを共有しています。ウィンドウを閉じるとアプリは非表示になりますが、ゲートウェイは動作を続けます。メニューバーまたはシステムトレイアイコンから復元できます。
ソースからのインストールにはRust stable(MSRV 1.96)、Node.js 22.23.1、およびwasm32-wasip2ターゲットが必要です。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.