Об этом проекте

SJMN — это самохостируемый роутер для LLM API, разработанный для обеспечения высокой доступности. Он позволяет пользователям регистрировать несколько OpenAI-совместимых подключений (таких как OpenAI, Azure OpenAI, OpenRouter, Groq или локальные экземпляры вроде Ollama и LM Studio) и задавать им порядок приоритета. Если основное подключение выходит из строя из-за таймаута или ошибки, роутер автоматически выполняет failover на следующее доступное подключение в списке приоритетов. Ключевые возможности: - Админ-панель: основанный на React интерфейс для управления подключениями, генерации API-ключей и просмотра логов запросов/ответов. - Маршрутизация: автоматический failover на основе номеров приоритета (меньшие номера проверяются первыми). - Playground: встроенный чат-интерфейс для тестирования конкретных подключений или общей логики fallback. - Мониторинг здоровья: инструменты для проверки подключений и маркировки их как онлайн/офлайн, обновления статуса происходят при прохождении реального трафика. - Безопасность: JWT-защищённый админ-доступ и аутентификация по API-ключу для эндпоинта роутера. Система построена на Node.js/Express с SQLite для хранения данных и React/Vite для фронтенда. Может быть развёрнута через Docker Compose или запущена локально.