llm-app

L'application Pathway LLM propose des modèles de pipeline IA prêts au déploiement pour créer des applications RAG (Retrieval-Augmented Generation) et de recherche d'entreprise à haute précision, évolutives. Ces modèles se connectent à des sources de données en direct, notamment les systèmes de fichiers locaux, Google Drive, SharePoint, S3, Kafka, PostgreSQL et des APIs de données en temps réel, en synchronisant automatiquement les ajouts, suppressions et mises à jour. Les modèles d'application incluent : une application RAG de question-réponse pour le Q&A de documents, un indexage de documents en direct comme service de magasin vectoriel, un RAG multimodal avec GPT-4o pour extraire tableaux et graphiques des PDFs, un pipeline de structures vers SQL qui convertit les documents financiers en requêtes SQL structurées, un RAG adaptatif pour réduire les coûts en tokens, un RAG privé utilisant Mistral et Ollama pour un déploiement entièrement local, une recherche Slides AI pour l'indexation de PowerPoint et PDF, et un RAG vidéo avec TwelveLabs pour la recherche dans le contenu vidéo. Le framework s'exécute sous forme de conteneurs Docker avec une API HTTP et une interface Streamlit optionnelle. Il élimine le besoin de bases de données vectorielles, caches ou frameworks API distincts en fournissant un indexation vectorielle intégrée (via usearch) et une recherche hybride en plein texte (via Tantivy), le tout traité en mémoire avec mise en cache. Les modèles peuvent évoluer jusqu'à des millions de pages et être déployés sur GCP, AWS, Azure, Render ou en local. Chaque modèle comprend un README avec des instructions d'installation, et des modèles de code supplémentaires sont disponibles sur le site Pathway.