Sobre o projeto

O Nexus Orchestrator atua como uma camada de roteamento inteligente para Modelos de Linguagem de Grande Escala (LLMs), permitindo que os usuários misturem provedores locais (como Ollama) com APIs em nuvem (compatíveis com OpenAI) em uma única interface. Ele utiliza um modelo de roteamento leve para classificar a intenção do prompt em categorias como CODING, REASONING, CREATIVE, VISION e SECURITY, encaminhando automaticamente a solicitação para o pool de modelos designado dessa categoria. Principais capacidades incluem: - Orquestração Híbrida: Alternar sem problemas entre modelos locais e de nuvem por categoria. - Integração de Ferramentas: Suporta servidores do Model Context Protocol (MCP) e integra-se com o SearXNG auto-hospedado para busca na web e recuperação de URLs por meio de tool calling. - Gerenciamento Multiusuário: Inclui configurações de provedor por usuário, mapeamentos de categoria e gerenciamento de projetos com painel administrativo. - Suporte Avançado a LLMs: Lida com uploads de visão computacional e documentos, e oferece um "Thinking" toggle dedicado para exibir cadeias de raciocínio (por exemplo, para DeepSeek R1) em uma seção de UI retrátil. - Segurança e Privacidade: Projetado para operação privacy-first com opções de roteamento 100% local, apresentando CORS integrado, limitação de taxa e proteção SSRF para recuperação de URLs.