Об этом проекте

Torvian Chatbot — это самостоятельно размещаемое рабочее пространство для ИИ, предназначенное для пользователей, которые хотят контролировать свои данные, поставщиков моделей и выполнение инструментов. Вы сами запускаете сервер, подключаете собственную конфигурацию LLM и сохраняете участие человека в агентных действиях. Ключевые возможности, описанные в README: - Подключение собственных поставщиков LLM: OpenAI-совместимые API и локальные модели Ollama. - Потоковая передача ответов модели в реальном времени, с одновременными ответами из разных чат-сессий. - Организация длинных разговоров с помощью ветвящихся/древовидных потоков сообщений. - Выполнение инструментов по умолчанию требует подтверждения, с опциональными настройками автоматического одобрения или автоматического отклонения для каждого инструмента. - Перезапуск агентных разговоров с любого предыдущего сообщения с восстановлением контекста и состояния инструментов. - Многопользовательский доступ с аутентификацией и авторизацией на основе ролей и разрешений. - Мультиплатформенные клиенты для десктопа, веба (WASM) и Android, все подключаются к одному и тому же серверу. - Инструменты могут работать круглосуточно на любой машине (локальной, удалённой, виртуальной машине), независимо от того, где работают клиенты. Архитектура: сервер на Ktor предоставляет основной API и слой оркестрации для аутентификации/авторизации, чат-сессий, обработки сообщений, интеграции с LLM, жизненного цикла инструментов и хранения данных (SQLite через Exposed ORM). Клиенты на Compose Multiplatform охватывают Desktop, Web (WASM) и Android. Опциональный отдельный процесс воркера обрабатывает выполнение инструментов MCP, что полезно для изоляции рабочего пространства и постоянной доступности; сервер взаимодействует с воркерами по WebSocket с использованием собственного JSON-протокола. Статус проекта: активная разработка. Сервер вместе с Desktop описывается как наиболее полная и стабильная комбинация; Web (WASM) стабилен с некоторыми ограничениями; Android находится на ранней стадии с известными ограничениями UX. Начало работы: готовые пакеты публикуются на странице Releases (сервер, воркер, десктопный клиент для Windows/Linux и статический веб-клиент). Сервер можно запустить с помощью стартовых скриптов или Docker-образа из ghcr.io; приведена команда быстрого запуска в Docker. Логин по умолчанию — admin/admin123 с принудительной сменой пароля при первом входе. Воркер необходим для выполнения инструментов MCP, требует активной учётной записи пользователя для аутентификации и генерирует SSL-сертификат во время настройки; учётные данные доверенного подписанта можно зарегистрировать через флаг CLI или переменные окружения. Для воркера рекомендуется Docker, поскольку он обеспечивает лучшую изоляцию при выполнении инструментов. Сборка из исходного кода требует Git, JDK 21+ и включённого Gradle wrapper; отдельные задачи Gradle собирают сервер, десктопное приложение, веб-приложение и воркер. Документация включает настройку LLM, настройку сервера MCP, доверенных подписантов и руководства по развёртыванию на VPS/Docker. Технологический стек: Kotlin, Compose Multiplatform с Material 3, Ktor, SQLite с Exposed, Koin, Arrow, kotlinx.serialization и Gradle. Лицензия MIT.