switchboard

Switchboard 是一款本地优先的 AI 网关，完全在您的机器上运行，提供一个 OpenAI 兼容端点，将请求路由到包括 Groq、Cerebras、Google、OpenRouter、DeepSeek、Mistral、OpenAI 和 Anthropic 在内的 16 个不同 AI 提供商。它根据健康状态、延迟、成本和层级等实时因素智能选择每个请求的最优提供商——优先使用免费层级，并在提供商失败时自动回退。所有路由决策均以详细说明的形式存储和展示，解释为何选择或排除每个候选项，包括成本分解和失败原因。 该系统无需云账户或遥测数据；凭据使用 AES-256-GCM 在本地加密，除上游 API 调用外不会离开您的设备。它支持流式和非流式聊天补全、嵌入、图像生成、音频语音和转录、重新排序以及审核端点。所有响应均包含路由元数据头，如使用的提供商、模型、层级、成本、延迟以及在适用情况下的回退原因。 Switchboard 包含一个可通过 http://localhost:7272 访问的仪表板，以及用于管理提供商、密钥、模型和策略的 CLI 工具（sb）。您可以在不发送流量 simulat 的情况下模拟路由决策，调整「auto」（免费优先）、「fast」（快速）、「quality」（质量）或「failover」（故障转移）等策略，并查看详细日志和使用报告。它基于 Node.js 22.13+ 构建，使用 SQLite 实现无原生模块的持久化，在 Windows、macOS 和 Linux 上以相同方式运行。 弹性功能包括每个连接的分路断路器、速率限制后的模型锁定，以及在最多 maxAttempts 次内的回退尝试。一旦流式响应开始，永不重试。配置可选，具备合理默认值；出于安全考虑，CORS 默认禁用。桌面应用通过 Electron 构建，在系统托盘运行并支持开机自启。 目前仍处于 1.0 之前的版本，已解决主要审计发现，包括测试覆盖率（现约 1035 项测试）、带脱敏的结构化日志、持久化速率限制和安全凭据处理。已知限制包括：尚未发布 npm 包（需通过 git clone 安装）、无端到端测试、无管理员操作审计日志以及无优雅关闭。未配反向代理和认证时，不适用于公网暴露。