منصوبے کے بارے میں

یونائفڈ ایل ایل ایم انجن ایک پایتھن لائبریری ہے جو کئی بڑے لینگویج ماڈل (LLM) فراہم کنندگان جیسے OpenAI، Anthropic، Gemini، Azure، AWS Bedrock، اور Ollama کے ساتھ تعامل کو ایک سادہ سطح پر لاتی ہے۔ یہ ڈویلپرز کو بغیر کوڈ تبدیل کیے فراہم کنندگان میں سوئچ یا ملاپ کی سہولت دیتی ہے۔ اس کے اہم فیچرز میں خودکار فراہم کنندہ فال بیک، حقیقی وقت لاگت اور ٹوکن استعمال کا ٹریکنگ، ذہین ریسپانس کیشنگ، سٹریمنگ سپورٹ، اور ایسنک ڈیزائن شامل ہیں۔ درخواستیں ماڈل دستیابی، لوڈ، اور ترتیب شدہ ترجیحات کی بنیاد پر ہوشیارانہ راستہ دکھاتی ہیں۔ صارفین API کلیدوں کے لیے ماحولیاتی متغیرات سے انجن کو شروع کر سکتے ہیں۔