프로젝트 소개
Quivr은 개발자가 애플리케이션에 생성형 AI 기능을 통합할 수 있도록 돕는 오픈소스 RAG(Retrieval-Augmented Generation) 프레임워크입니다. '두 번째 뇌'로 마케팅되며, 사용자는 파일을 수집하고 대형 언어 모델을 사용하여 쿼리할 수 있습니다.
주요 기능은 다음과 같습니다:
- **의견 기반 RAG**: 개발자가 인프라가 아닌 제품에 집중할 수 있도록 사전 구성된 효율적인 RAG 파이프라인.
- **LLM 유연성**: OpenAI, Anthropic, Mistral, Ollama를 통한 로컬 모델 등 다양한 LLM과 호환됩니다.
- **파일 지원**: PDF, TXT, Markdown 등 여러 파일 형식을 지원하며, 사용자 정의 파서를 추가할 수 있습니다.
- **사용자 정의**: 인터넷 검색 및 도구 추가를 포함하여 RAG 워크플로우를 사용자 정의할 수 있습니다.
- **Megaparse 통합**: 파일 수집을 위해 Megaparse와 통합됩니다.
이 프레임워크는 pip(`pip install quivr-core`)를 통해 설치할 수 있으며, Python 3.10 이상이 필요합니다. 개발자는 몇 줄의 코드만으로 기능적인 RAG 'Brain'을 만들 수 있습니다. Quivr은 또한 RAG 워크플로우를 정의하기 위한 YAML 기반 구성을 지원하며, 여기에는 기록 필터링, 검색, 재순위(예: Cohere 사용), 온도 및 토큰 제한과 같은 LLM 매개변수 설정이 포함됩니다. 이 프로젝트는 Apache 2.0 라이선스 하에 있습니다.
Comments
0 people shared their preference · Deer Point appears after 10 participants
Sign in to join the discussion.