Sobre o projeto
AnythingLLM é um aplicativo de IA abrangente que permite aos usuários criar um ambiente privado semelhante ao ChatGPT. Ele suporta a conexão com vários LLMs locais ou na nuvem, a ingestão de documentos (PDF, TXT, DOCX, etc.) e a utilização de agentes de IA para fluxos de trabalho complexos.
As principais capacidades incluem:
- Roteamento Dinâmico de Modelos e seleção inteligente de habilidades para agentes de IA.
- Suporte para uma ampla gama de provedores de LLM (OpenAI, Anthropic, Google Gemini, Ollama, LM Studio, etc.).
- Integração com múltiplos bancos de dados vetoriais, como LanceDB, Pinecone, Milvus e Weaviate.
- Suporte a múltiplos usuários e permissões (disponível na versão Docker).
- Ferramentas integradas para transcrição de áudio (STT) e conversão de texto em fala (TTS).
- Um construtor de Agentes de IA no-code e compatibilidade com MCP.
- Um widget de chat personalizável e incorporável para sites.
O projeto está estruturado como um monorepo contendo um frontend em React, um servidor NodeJS express e um coletor de documentos.