프로젝트 소개
Token Station은 AI 에이전트와 LLM 제공자를 위한 로컬 라우팅 제어 플레인입니다. `127.0.0.1:8787`에서 Rust 기반 게이트웨이로 실행되며, 모든 요청 트래픽을 로 머신에 유지하고 명시적으로 라우팅된 경우에만 클라우드 제공자로 전달합니다.
주요 기능:
- **로컬 게이트웨이**: 기본적으로 인증이 활성화된 상태에서 루프백에서만 수신 대기합니다. 제공자 자격 증명은 소유자 전용 `secrets.json` 파일에 저장되며 로그나 플러그인에 절대 노출되지 않습니다.
- **세 가지 라우팅 모드**: Direct는 단일 제공자/모델을 고정하고, Smart tiers는 단일 결정을 기준으로 High/Mid/Low를 선택하며, Quota first는 더 빨리 재설정되는 버킷을 먼저 소비합니다.
- **제공자 지원**: 40개 이상의 편집 가능한 사전 설정이 포함되어 있고, 사용자 지정 OpenAI 호환 엔드포인트를 지원하며, Ollama 같은 로컬 런타임으로 라우팅할 수 있습니다.
- **에이전트 커넥터**: Claude Code, Claude Desktop, Codex, Gemini CLI, Grok Build, Kimi Code, DeepSeek Harness, Hermes Agent, OpenClaw, WorkBuddy, OpenCode, Cursor용 내장 커넥터가 있습니다(현재 macOS 전용 설정). 커터는 제한된 계획과 비공개 스냅을 작성하며, 연결 해제 시 Token Station 필드만 제거합니다.
- **드박스 어댑터**: 공식 WASM 플러그인은 네트워크, 파일 시스템 또는 자격 증명 접근 없이 Anthropic Messages, OpenAI Chat Completions, OpenAI Responses, Gemini 및 OpenAI 호환 제공자를 지원합니다.
- **사용량 추적**: 프롬프트/응답 본문과 제한된 마스킹 HTTP 추적을 로컬에 기록합니다. 사용량, 지연 시간, 비용 추정치 및 요청 로그는 머신에 남아 있습니다.
- **터프라이즈 관리형 라우팅**: 터프라이즈 Base URL과 자격 증명을 한 번 입력하면 엔터프라이즈 서비스가 실제 모델과 라우팅 정책에 대한 제어를 유지할 수 있습니다.
이 프로젝트는 데스크톱 (macOS, Windows, Linux)과 CLI를 모두 제공하며, 다 동일한 Rust 코어를 공유합니다. 창을 닫으면 이 숨겨지지만 게이트웨이는 계속 실행됩니다. 메뉴 막대 또는 시스템 트레이 아이콘에서 복원할 수 있습니다.
소스에서 설치하려면 Rust stable(MSRV 1.96), Node.js 22.23.1 및 `wasm32-wasip2` 타이 필요합니다.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.