llmrouter

LLMRouter es un gateway de API para modelos de lenguaje grande (LLM) de autoalojamiento que permite a los usuarios invocar de manera unificada múltiples proveedores de servicios de IA (como Google, Groq, Mistral, Zhipu AI, Alibaba Cloud Bailian, etc.) localmente a través de una única interfaz compatible con OpenAI. Todas las claves y configuraciones se almacenan de forma cifrada en una base de datos SQLite local, garantizando la privacidad y seguridad. El sistema admite failover automático (cambio de modelo ante errores 429/5xx), enrutamiento inteligente (model="auto" selecciona automáticamente la mejor opción), salida en streaming y llamada de herramientas. Ofrece un panel de gestión web para administración de claves, ajuste de prioridades de enrutamiento y pruebas en Playground. Admite implementación con un solo clic en Windows/macOS/Linux, con un consumo de memoria en reposo de aproximadamente 40 MB, lo que lo hace adecuado para uso personal o de pequeños equipos. Su arquitectura técnica se basa en un backend Express y frontend React, con un diseño modular de adaptación a fabricantes que facilita su extensión.