omniroute

OmniRoute是一个自托管的AI网关，它将数百个AI提供商和模型聚合到单一的本地端点。它遵循MIT协议，无需配置即可立即使用，无需API密钥或注册。 ## 它的功能 OmniRoute聚合了352+AI提供商，提供了1200多种模型，包括Claude、GPT、Gemini、GLM、DeepSeek、Kimi和MiniMax。其中有150多个提供商层级是免费的，每月估计有约1.47亿免费令牌。网关将所有提供商标准化为与OpenAI兼容的`/v1`端点，因此任何兼容的工具都可以连接，无需特定提供商的SDK。 ## 主要功能 - **自动回退路由**：配额感知路由器在出现配额限制或故障时自动回退到四个提供商层级（订阅→API密钥→便宜→免费），确保工作流程不中断。 - **令牌压缩**：RTK和Caveman堆栈压缩在符合条件的工作负载上将令牌使用量减少15%-95%（平均约89%），有助于延长免费配额。 - **19种路由策略**：灵活的请求路由，配有电路断路器、密钥冷却和模型锁定保护。 - **MCP和A2A支持**：本机模型上下文协议和代理到代理协议集成。 - **本地优先**：所有请求通过`localhost:20128`路由。加密密钥使用AES-256-GCM；无提供商流量通过第三方云 tunnel。 - **TLS掩蔽**：可选的代理级TLS掩蔽。 - **实时遥测**：实时仪表板跟踪所有连接提供商的使用情况、配额、节省和p95延迟。 - **防护措施和评估**：生产级防护措施、评估和数千个静态测试声明。 ## 兼容工具 OmniRoute被设计为开发人员和编码工具的插入式后端，包括Claude Code、Codex、Cursor、OpenCode、Cline、GitHub Copilot等。新安装时立即使用`auto`模型标识符响应的预先连接的免费提供商（OpenCode Free）。 ## 部署选项 网关通过npm（`npm i -g omniroute`）、Docker Hub、Electron桌面应用程序和PWA提供，为用户提供灵活的运行方式。提供了Python、Node.js、PHP和cURL的快速启动脚本。 ## 架构 智能路由器位于调用者和提供者层之间，根据配额可用性、成本层级和路由策略应用压缩并从目录中选择提供商。提供者密钥池用于公平分布团队共享单一订阅的密钥。条件评估目录标记了13个提供商，用户应在使用之前查看条件。 ## 社区和贡献者 由550多名贡献者构建的OmniRoute已翻译为51种语言。支持渠道包括Discord、Telegram、WhatsApp组和公共路线图（目标v3.9.0 LTS）。