Sobre el proyecto
Quivr es un framework de RAG (Retrieval-Augmented Generation) de código abierto diseñado para ayudar a los desarrolladores a integrar capacidades de inteligencia artificial generativa en sus aplicaciones. Marcado como un 'segundo cerebro' potenciado por IA generativa, permite a los usuarios cargar archivos y consultarlos mediante modelos de lenguaje grandes.
Características clave incluyen:
- **RAG con enfoque**: Un pipeline RAG preconfigurado y eficiente para que los desarrolladores se enfoquen en su producto en lugar de en la infraestructura.
- **Flexibilidad de LLM**: Compatible con diversos LLMs, incluyendo OpenAI, Anthropic, Mistral y modelos locales a través de Ollama.
- **Soporte de archivos**: Trabaja con múltiples formatos de archivo como PDF, TXT y Markdown, con la capacidad de agregar parsers personalizados.
- **Personalización**: Permite personalizar el flujo de trabajo RAG, incluyendo búsqueda en internet y herramientas.
- **Integración con Megaparse**: Se integra con Megaparse para la ingesta de archivos.
El framework se puede instalar mediante pip (`pip install quivr-core`) y requiere Python 3.10 o superior. Los desarrolladores pueden crear un 'Cerebro' RAG funcional con solo unas pocas líneas de código. Quivr también admite configuración basada en YAML para definir flujos de trabajo RAG, incluyendo ajustes para filtrado de historial, recuperación, reranking (por ejemplo, usando Cohere) y parámetros de LLM como temperatura y límites de tokens. El proyecto está licenciado bajo la Licencia Apache 2.0.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.