프로젝트 소개

OpenLLMetry는 LLM 애플리케이션에 완전한 관측성을 제공하는 OpenTelemetry 기반 확장 기능 모음입니다. 표준 OpenTelemetry 데이터를 사용하므로 Datadog, Honeycomb 등 기존 관측 솔루션과 통합할 수 있습니다. 이 저장소에는 LLM 제공자, 벡터 데이터베이스, 프레임워크를 위한 표준 OpenTelemetry 계측과 간편한 설정을 위한 Traceloop SDK가 포함되어 있습니다. SDK는 pip로 설치할 수 있으며 한 줄의 코드로 초기화할 수 있습니다. Traceloop, Datadog, New Relic, Grafana 등 수많은 대상을 지원합니다. 계측되는 구성 요소로는 OpenAI, Anthropic, Cohere, Google Generative AI 같은 LLM 제공자, Chroma, Pinecone, Qdrant 같은 벡터 DB, LangChain, LlamaIndex, CrewAI 같은 프레임워크가 있습니다. 이 프로젝트는 Traceloop이 Apache 2.0 라이선스로 유지 관리하며 기여를 환영합니다.