منصوبے کے بارے میں

OpenLLMetry OpenTelemetry کے اوپر بنائے گئے ایکسٹینشنز کا ایک سیٹ ہے جو LLM ایپلیکیشنز کے لیے مکمل آبزرویبلٹی فراہم کرتا ہے۔ یہ معیاری OpenTelemetry ڈیٹا استعمال کرتا ہے، جس سے Datadog، Honeycomb، اور دیگر جیسے موجودہ آبزرویبلٹی حل کے ساتھ انضمام ممکن ہوتا ہے۔ ریپوزٹری میں LLM فراہم کنندگان، ویکٹر ڈیٹا بیسز، اور فریم ورکس کے لیے معیاری OpenTelemetry انسٹرومینٹیشنز شامل ہیں، نیز آسان سیٹ اپ کے لیے ایک Traceloop SDK بھی شامل ہے۔ SDK کو pip کے ذریعے انسٹال کیا جا سکتا ہے اور کوڈ کی ایک لائن کے ساتھ ابتدائی کیا جا سکتا ہے۔ یہ Traceloop، Datadog، New Relic، Grafana، اور بہت سے مزید سمیت متعدد منزلوں کو سپورٹ کرتا ہے۔ انسٹرومینٹڈ اجزاء میں LLM فراہم کنندگان جیسے OpenAI، Anthropic، Cohere، اور Google Generative AI شامل ہیں؛ ویکٹر ڈیٹا بیسز جیسے Chroma، Pinecone، اور Qdrant؛ اور فریم ورکس جیسے LangChain، LlamaIndex، اور CrewAI شامل ہیں۔ یہ پروجیکٹ Traceloop کے ذریعے Apache 2.0 لائسنس کے تحت برقرار رکھا گیا ہے اور شراکت کا خیرمقدم کرتا ہے۔