इस प्रोजेक्ट के बारे में
OpenLLMetry, OpenTelemetry के ऊपर बनाए गए एक्सटेंशन का एक सेट है जो LLM अनुप्रयोगों के लिए पूर्ण ऑब्जर्वेबिलिटी प्रदान करता है। यह मानक OpenTelemetry डेटा का उपयोग करता है, जिससे Datadog, Honeycomb और अन्य जैसे मौजूदा ऑब्जर्वेबिलिटी समाधानों के साथ एकीकरण संभव होता है। रिपॉजिटरी में LLM प्रदाताओं, वेक्टर डेटाबेस और फ्रेमवर्क के लिए मानक OpenTelemetry इंस्ट्रुमेंटेशन शामिल हैं, साथ ही आसान सेटअप के लिए एक Traceloop SDK भी है। SDK को pip के माध्यम से इंस्टॉल किया जा सकता है और कोड की एक पंक्ति से इनिशियलाइज़ किया जा सकता है। यह Traceloop, Datadog, New Relic, Grafana और कई अन्य सहित कई गंतव्यों का समर्थन करता है। इंस्ट्रुमेंटेड घटकों में OpenAI, Anthropic, Cohere और Google Generative AI जैसे LLM प्रदाता; Chroma, Pinecone और Qdrant जैसे वेक्टर DB; और LangChain, LlamaIndex और CrewAI जैसे फ्रेमवर्क शामिल हैं। यह प्रोजेक्ट Traceloop द्वारा Apache 2.0 लाइसेंस के तहत अनुरक्षित है और योगदान का स्वागत करता है।
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.