好开源，值得被发现。

该项目是ai-proxy服务的分支版本，旨在为多个大型语言模型（LLM）提供商提供安全代理服务，通过统一API端点实现多AI服务接入。

RouteTok是一款本地优先的LLM推理路由器，支持OpenAI与Anthropic兼容API，提供健康感知故障转移、多提供商路由、运营仪表盘及浏览器端模型沙箱，基于Node.js构建。

Switchboard 是一款本地优先的 AI 网关，在用户机器上完全运行，提供一个 OpenAI 兼容端点，将请求路由到 Groq、Cerebras、Google、OpenRouter、DeepSeek、Mistral、OpenAI 和 Anthropic 等 16 个不同 AI 提供商。基于实时因素（健康状态、延迟、成本、层级）智能选择最优提供商，优先使用免费层级并在失败时自动回退。所有路由决策均详细记录并解释。系统无需云账户或遥测数据，凭据采用 AES-256-GCM 本地加密。支持流式和非流式聊天补全、嵌入、图像生成、音频语音和转录、重新排序及审核端点。提供 Web 仪表板（localhost:7272）和 CLI 工具（sb），支持策略模拟、详细日志和使用报告。基于 Node.js 22.13+ 和 SQLite 构建，跨 Windows、macOS 和 Linux 一致运行。

DeepSeek Router 是一款面向 Claude Code 的高可用代理，通过自动故障转移、熔断保护和零停机配置等方式，在五大国产AI提供商间智能路由请求，实现低成本与高可靠性。

llm-apipool是一个自托管工具，将40多个免费LLM API统一到一个OpenAI兼容端点。自动轮换密钥、处理速率限制、追踪使用情况，并支持CLI、TUI、代理和LangChain集成。