nexus-orchestrator

Nexus Orchestrator actúa como una capa de enrutamiento inteligente para Modelos de Lenguaje Grande (LLM), permitiendo a los usuarios combinar proveedores locales (como Ollama) con APIs en la nube (compatibles con OpenAI) dentro de una sola interfaz. Utiliza un modelo de enrutamiento ligero para clasificar la intención del prompt en categorías como CODING, REASONING, CREATIVE, VISION y SECURITY, enviando automáticamente la solicitud al grupo de modelos designado para esa categoría. Las capacidades clave incluyen: - Orquestación híbrida: cambio sin problemas entre modelos locales y en la nube por categoría. - Integración de herramientas: soporta servidores Model Context Protocol (MCP) e integra SearXNG autoalojado para búsqueda web y obtención de URLs mediante tool calling. - Gestión multiusuario: incluye configuraciones de proveedor por usuario, mapeos de categorías y gestión de proyectos con un panel de administración. - Soporte avanzado de LLM: maneja carga de imágenes y documentos, y proporciona un interruptor "Thinking" dedicado para mostrar cadenas de razonamiento (por ejemplo, para DeepSeek R1) en una sección colapsable de la interfaz. - Seguridad y privacidad: diseñado para operación centrada en la privacidad con opciones de enrutamiento 100% local, con CORS integrado, límite de tasa y protección SSRF para la obtención de URLs.