llmrouter

LLMRouter 是一个自托管的大型语言模型（LLM）API网关，允许用户在本地统一调用多个AI服务提供商（如Google、Groq、Mistral、智谱AI、阿里云百炼等），通过单一OpenAI兼容接口访问。所有密钥和配置均加密存储于本地SQLite数据库，确保隐私安全。系统支持自动故障转移（429/5xx错误时切换模型）、智能路由（model="auto"自动选最优）、流式输出及工具调用。提供Web管理面板用于密钥管理、路由优先级调整和Playground测试。支持Windows/macOS/Linux一键部署，空闲内存占用约40MB，适合个人或小团队使用。技术架构基于Express后端与React前端，厂商适配模块化设计，易于扩展。