Об этом проекте

OpenLLMetry — это набор расширений, построенных на основе OpenTelemetry, который обеспечивает полную наблюдаемость для LLM-приложений. Он использует стандартные данные OpenTelemetry, что позволяет интегрироваться с существующими решениями для наблюдаемости, такими как Datadog, Honeycomb и другими. Репозиторий включает стандартные инструменты OpenTelemetry для LLM-провайдеров, векторных баз данных и фреймворков, а также SDK Traceloop для простой настройки. SDK можно установить через pip и инициализировать одной строкой кода. Он поддерживает множество направлений экспорта, включая Traceloop, Datadog, New Relic, Grafana и многие другие. Инструментируемые компоненты включают LLM-провайдеров, таких как OpenAI, Anthropic, Cohere и Google Generative AI; векторные БД, такие как Chroma, Pinecone и Qdrant; и фреймворки, такие как LangChain, LlamaIndex и CrewAI. Проект поддерживается Traceloop под лицензией Apache 2.0 и приветствует вклад сообщества.