llm-router

LLM Router es una aplicación de escritorio local que actúa como un proxy inteligente entre clientes de IA (como Claude Code, Cursor y Codex CLI) y varios proveedores de LLM, incluyendo OpenAI, Anthropic, Google Gemini y DeepSeek. Su objetivo principal es reducir los costos de la API manteniendo la "adherencia" de la conversación a un único proveedor, asegurando que los descuentos por prompt caching se preserven durante conversaciones largas. La aplicación proporciona un endpoint de API local unificado (localhost:11411) y admite formatos de solicitud tanto al estilo de OpenAI como de Anthropic. Las capacidades clave incluyen: - Optimización de Costos: Rastrea los tokens utilizados, el dinero gastado y los ahorros logrados a través de los aciertos de caché. - Enrutamiento Inteligente: Reglas personalizables para enrutar solicitudes basadas en nombres de modelos, longitud del prompt o disponibilidad del proveedor. - Transparencia: Una función de "Routing Explain" que detalla por qué se eligió un modelo específico y qué alternativas se consideraron. - Integración Fácil: "App Takeover" de un solo clic para herramientas específicas como Claude Code y Codex CLI para automatizar la configuración. - Privacidad: Arquitectura local-first que utiliza una base de datos SQLite embebida; las claves de API se almacenan localmente y nunca salen del dispositivo. - Soporte Multiplataforma: Disponible para macOS, Windows y Linux.