olla-nest

Olla Nest — это самохостинговое корпоративное AI‑рабочее пространство, предназначенное для обеспечения безопасного, управляемого администратором уровня над Ollama и различными облачными AI‑провайдерами. Его ключевая функция — Auto Router, который автоматически направляет запросы пользователей к наиболее подходящей модели в зависимости от возможностей, скорости, качества и требований к конфиденциальности. Включает privacy gate, блокирующий передачу чувствительных данных (например, SSN или API‑ключей) внешним облачным провайдерам. - **Enterprise Management**: Управление доступом на основе ролей (RBAC), иерархии команд, ограничения токенов на пользователя, а также аудит‑логи, соответствующие SOC 2. - **Data Integration**: Поддержка RAG (Retrieval-Augmented Generation) с более чем 20 коннекторами к сервисам таким как GitHub, Slack, Notion, Jira и Google Drive, с почасовой фоновой синхронизацией. - **Developer Tools**: Защищённый песочничный окружение для кода с поддержкой Python, JS, Ruby, Java и Bash; интерактивный терминал; и восемь специализированных режимов чата (например, build, fix, debug). - **Multimodal Features**: Локальное преобразование речи в текст с помощью faster-whisper, синтез речи через OpenAI TTS и генерация изображений через DALL‑E 3 или Stable Diffusion. - **Advanced Research**: Конвейер "Deep Research", который разбивает сложные запросы на под‑вопросы, выполняет поиск в вебе и RAG, и синтезирует отчёт с цитатами. - **Authentication**: Поддержка Google OAuth 2.0, общего OIDC и SAML 2.0, а также локальная аутентификация. - **Infrastructure**: Построено на Java 26 и Spring Boot, использует SQLite для хранения и интегрировано с Grafana и Loki для структурированного логирования.