openllmetry

OpenLLMetry est un ensemble d'extensions construites sur OpenTelemetry qui offre une observabilité complète pour les applications LLM. Il utilise des données OpenTelemetry standard, permettant l'intégration avec des solutions d'observabilité existantes comme Datadog, Honeycomb et autres. Le dépôt comprend des instrumentations OpenTelemetry standard pour les fournisseurs LLM, les bases de données vectorielles et les frameworks, ainsi qu'un SDK Traceloop pour une configuration facile. Le SDK peut être installé via pip et initialisé avec une seule ligne de code. Il prend en charge de nombreuses destinations, notamment Traceloop, Datadog, New Relic, Grafana et bien d'autres. Les composants instrumentés incluent des fournisseurs LLM comme OpenAI, Anthropic, Cohere et Google Generative AI ; des bases de données vectorielles comme Chroma, Pinecone et Qdrant ; et des frameworks comme LangChain, LlamaIndex et CrewAI. Le projet est maintenu par Traceloop sous la licence Apache 2.0 et accueille les contributions.