Sobre o projeto
Olla Nest é um workspace de IA corporativo auto-hospedado projetado para fornecer uma camada segura, controlada por administradores, sobre o Ollama e vários provedores de IA em nuvem. Seu recurso principal é um Auto Router que direciona automaticamente as solicitações dos usuários ao modelo mais adequado com base em capacidade, velocidade, qualidade e requisitos de privacidade. Inclui um privacy gate que bloqueia dados sensíveis (como SSNs ou chaves de API) de serem enviados a provedores de nuvem externos.
- **Enterprise Management**: Controle de Acesso Baseado em Funções (RBAC), hierarquias de equipe, limites de token por usuário e trilhas de auditoria compatíveis com SOC 2.
- **Data Integration**: suporte a RAG (Retrieval-Augmented Generation) com mais de 20 conectores para serviços como GitHub, Slack, Notion, Jira e Google Drive, com sincronização de fundo horária.
- **Developer Tools**: sandbox de código seguro com suporte a Python, JS, Ruby, Java e Bash; um terminal interativo; e oito modos de chat especializados (por exemplo, build, fix, debug).
- **Multimodal Features**: conversão local de fala para texto via faster-whisper, texto para fala via OpenAI TTS e geração de imagens através do DALL-E 3 ou Stable Diffusion.
- **Advanced Research**: pipeline "Deep Research" que decompõe consultas complexas em subperguntas, realiza buscas na web e via RAG, e sintetiza um relatório com citações.
- **Authentication**: suporte a Google OAuth 2.0, OIDC genérico e SAML 2.0, além de autenticação local.
- **Infrastructure**: construído com Java 26 e Spring Boot, usando SQLite para armazenamento e integrando com Grafana e Loki para registro estruturado.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.