haystack

Haystack est un framework d'orchestration IA modulaire conçu pour créer des applications LLM évolutives. Il permet aux développeurs de concevoir des pipelines et des flux de travail d'agents avec un contrôle explicite sur la récupération, le routage, la mémoire et la génération. Le framework est agnostique vis-à-vis des modèles et des fournisseurs, prenant en charge des intégrations avec OpenAI, Mistral, Anthropic, Cohere, Hugging Face, Google, Azure OpenAI, AWS Bedrock et des modèles locaux. Les capacités clés incluent : - Agents prêts pour la production : dispose de hooks de cycle de vie pour les garde-fous, d'une surveillance de l'utilisation des jetons et des appels d'outils, et d'une découverte de compétences via SkillToolset. - Ingénierie du contexte : outils pour récupérer, classer, filtrer et router les informations avant qu'elles n'atteignent le modèle. - Support Async natif : les pipelines peuvent s'exécuter de manière synchrone ou asynchrone avec un streaming jeton par jeton, et les agents supportent les appels d'outils concurrents. - Architecture modulaire : comprend des composants intégrés pour l'indexation, la récupération et l'évaluation, avec la possibilité de créer des composants personnalisés. - Cas d'utilisation polyvalents : supporte le développement de systèmes de Retrieval-Augmented Generation (RAG), d'applications multimodales, de recherche sémantique et de systèmes de questions-réponses.