llm-router

LLM Router 是一款本地桌面应用程序，充当 AI 客户端（如 Claude Code、Cursor 和 Codex CLI）与包括 OpenAI、Anthropic、Google Gemini 和 DeepSeek 在内的各种 LLM 提供商之间的智能代理。 其主要目标是通过保持对话对单一提供商的“粘性”来降低 API 成本，确保在长对话期间能够保留提示词缓存（prompt caching）折扣。该应用提供了一个统一的本地 API 端点 (localhost:11411)，并支持 OpenAI 和 Anthropic 风格的请求格式。 核心功能包括： - 成本优化：跟踪使用的 token 数量、花费的金额以及通过缓存命中实现的节省。 - 智能路由：可自定义规则，根据模型名称、提示词长度或提供商可用性来路由请求。 - 透明度：“路由解释 (Routing Explain)”功能可详细说明选择特定模型的原因以及考虑过的替代方案。 - 轻松集成：针对 Claude Code 和 Codex CLI 等特定工具提供一键“应用接管 (App Takeover)”以自动完成配置。 - 隐私保护：采用基于嵌入式 SQLite 数据库的本地优先架构；API 密钥存储在本地，绝不会离开设备。 - 跨平台支持：支持 macOS、Windows 和 Linux。