منصوبے کے بارے میں

Laravel LLM Relay، Laravel ایپلی کیشنز میں متعدد لارج لینگویج ماڈل فراہم کنندگان — خاص طور پر Claude، GPT (OpenAI)، اور Gemini — کے ساتھ تعامل کرنے کے لیے ایک واحد، مستقل انٹرفیس فراہم کرتا ہے۔ یہ ایک قابلِ ترتیب چین میں دوبارہ کوشش کرنے یا اگلے دستیاب فراہم کنندہ پر منتقل ہو کر فراہم کنندہ کی ناکامیوں کو خودکار طور پر سنبھالتا ہے، جس سے یہ یقینی بنتا ہے کہ آپ کے AI فیچرز دستیاب رہیں، چاہے ایک سروس ڈاؤن ہی کیوں نہ ہو۔ ہر جواب میں میٹا ڈیٹا شامل ہوتا ہے جیسے کہ کامیاب فراہم کنندہ، استعمال شدہ کل ٹوکنز، اور ملی سیکنڈز میں لیٹنسی، جو لاگت کی نگرانی اور کارکردگی کے تجزیے کو ممکن بناتا ہے۔ یہ پیکیج سادہ پرامپٹس، سسٹم ہدایات کے ساتھ ملٹی ٹرن گفتگو، اور dependency injection کو سپورٹ کرتا ہے۔ یہ Http::fake() کے ذریعے ٹیسٹنگ کے لیے Laravel کے HTTP کلائنٹ کے ساتھ ہم آہنگ طریقے سے مربوط ہوتا ہے۔ کنفیگریشن کا انتظام انوائرمنٹ ویری ایبلز اور اختیاری شائع شدہ کنفیگ فائلوں کے ذریعے کیا جاتا ہے۔ اگر API keys سیٹ نہیں ہیں تو فراہم کنندگان کو چھوڑ دیا جاتا ہے، اور آپ فال بیک کے بغیر کسی مخصوص فراہم کنندہ کو مجبور کر سکتے ہیں۔ Laravel کے لاگنگ چینلز کے ذریعے ہر درخواست (پرووائیڈر، ٹوکنز، لیٹنسی) کی لاگنگ سپورٹڈ ہے۔ پروڈکشن استعمال کے لیے ڈیزائن کیا گیا یہ ٹول عام مسائل کو حل کرتا ہے: فراہم کنندہ کی عدم استحکام، بدلتی ہوئی ماڈل ترجیحات، اور لاگت کی شفافیت۔ MIT لائسنس کے تحت دستیاب ہے۔