haystack

Haystack es un marco de orquestación de IA modular diseñado para crear aplicaciones de LLM escalables. Permite a los desarrolladores diseñar tuberías (pipelines) y flujos de trabajo de agentes con un control explícito sobre la recuperación, el enrutamiento, la memoria y la generación. El marco es agnóstico al modelo y al proveedor, admitiendo integraciones con OpenAI, Mistral, Anthropic, Cohere, Hugging Face, Google, Azure OpenAI, AWS Bedrock y modelos locales. Las capacidades clave incluyen: - Agentes listos para producción: Cuenta con ganchos de ciclo de vida para barandillas (guardrails), monitoreo del uso de tokens y llamadas a herramientas, y descubrimiento de habilidades a través de SkillToolset. - Ingeniería de contexto: Herramientas para recuperar, clasificar, filtrar y enrutar información antes de que llegue al modelo. - Soporte nativo asíncrono: Las tuberías pueden ejecutarse de forma síncrona o asíncrona con transmisión de tokens uno a uno, y los agentes admiten llamadas a herramientas concurrentes. - Arquitectura modular: Incluye componentes integrados para indexación, recuperación y evaluación, con la capacidad de crear componentes personalizados. - Casos de uso versátiles: Soporta el desarrollo de sistemas de Generación Aumentada por Recuperación (RAG), aplicaciones multimodales, búsqueda semántica y sistemas de respuesta a preguntas.