llm-app

O Pathway LLM App oferece templates prontos para implantação de pipelines de IA para construir aplicações de RAG (Geração Aprimorada por Recuperação) e busca corporativa de alta precisão em escala. Os templates se conectam a fontes de dados ao vivo, incluindo sistemas de arquivos locais, Google Drive, SharePoint, S3, Kafka, PostgreSQL e APIs de dados em tempo real, sincronizando automaticamente adições, exclusões e atualizações. Os templates de aplicação incluem: App de RAG para Perguntas e Respostas, Indexação ao Vivo de Documentos como serviço de vector store, RAG Multimodal com GPT-4o para extrair tabelas e gráficos de PDFs, pipeline Unstructured-to-SQL que converte documentos financeiros em consultas SQL estruturadas, RAG Adaptativo para reduzir custos de tokens, RAG Privado usando Mistral e Ollama para implantação totalmente local, Slides AI Search para indexação de PowerPoint e PDFs, e Video RAG com TwelveLabs para busca em conteúdo de vídeo. O framework roda como contêineres Docker com uma API HTTP e interface Streamlit opcional. Elimina a necessidade de bancos de dados vetoriais, caches ou frameworks de API separados, fornecendo indexação vetorial embutida (via usearch) e busca híbrida de texto completo (via Tantivy), tudo processado na memória com caching. Os templates escalam para milhões de páginas e podem ser implantados no GCP, AWS, Azure, Render ou on-premises. Cada template inclui um README com instruções de configuração, e templates de código adicionais estão disponíveis no site Pathway.