Sobre o projeto

O SJMN é um roteador auto-hospedado para chamadas de API de LLM projetado para garantir alta disponibilidade. Ele permite que os usuários registrem múltiplas conexões compatíveis com OpenAI (como OpenAI, Azure OpenAI, OpenRouter, Groq ou instâncias locais como Ollama e LM Studio) e atribuam uma ordem de prioridade. Se uma conexão primária falhar devido a timeout ou erro, o roteador faz automaticamente failover para a próxima conexão disponível na lista de prioridades. Principais funcionalidades incluem: - Painel Administrativo: Uma interface baseada em React para gerenciar conexões, gerar chaves de API e inspecionar logs de requisição/resposta. - Lógica de Roteamento: Failover automático baseado em números de prioridade (números menores são testados primeiro). - Playground: Uma interface de chat integrada para testar conexões específicas ou a lógica geral de fallback. - Monitoramento de Saúde: Ferramentas para verificar conexões e marcá-las como online ou offline, com atualizações de status acionadas pelo tráfego em tempo real. - Segurança: Acesso administrativo protegido por JWT e autenticação por chave de API no endpoint do roteador. O sistema é construído com backend Node.js/Express usando SQLite para persistência de dados e frontend React/Vite. Pode ser implantado via Docker Compose ou executado localmente.