llm-app

Pathway LLM App proporciona plantillas de pipelines de IA listas para desplegar para construir aplicaciones de RAG (Retrieval-Augmented Generation) de alta precisión y de búsqueda empresarial a escala. Las plantillas se conectan a fuentes de datos en vivo, incluyendo sistemas de archivos locales, Google Drive, SharePoint, S3, Kafka, PostgreSQL y APIs de datos en tiempo real, sincronizando automáticamente adiciones, eliminaciones y actualizaciones. Las plantillas de aplicaciones incluyen: Question-Answering RAG App para preguntas y respuestas de documentos, Live Document Indexing como servicio de almacén de vectores, Multimodal RAG con GPT-4o para extraer tablas y gráficos de PDFs, un pipeline de Unstructured-to-SQL que convierte documentos financieros en consultas SQL estructuradas, Adaptive RAG para reducir costos de tokens, Private RAG utilizando Mistral y Ollama para un despliegue totalmente local, Slides AI Search para la indexación de PowerPoint y PDF, y Video RAG con TwelveLabs para la búsqueda de contenido de video. El framework se ejecuta como contenedores Docker con una API HTTP y una interfaz de usuario Streamlit opcional. Elimina la necesidad de bases de datos vectoriales, cachés o frameworks de API separados al proporcionar indexación vectorial integrada (vía usearch) y búsqueda híbrida de texto completo (vía Tantivy), todo procesado en memoria con almacenamiento en caché. Las plantillas escalan a millones de páginas y pueden desplegarse en GCP, AWS, Azure, Render o on-premises. Cada plantilla incluye un README con instrucciones de configuración, y hay plantillas de código adicionales disponibles en el sitio web de Pathway.