منصوبے کے بارے میں

Route67 ایک ہلکا پھلکا LLM رائٹنگ سسٹم ہے جو OpenAI مطابقت والے چیٹ کمپلیشن APIs کے لیے ڈیزائن کیا گیا ہے۔ یہ صارفین کو ایک رائٹنگ ٹیبل تعریف کرنے کی اجازت دیتا ہے جو قدرتی زبان کے سوالات کو ہدف ماڈلز (مثال کے طور پر، 'اس تھیورم کو ثابت کرو' → 'strong_model') سے ملانے کا کام کرتا ہے۔ رن ٹائم پر، آنے والے سوالات کو ایک سینٹنس ٹرانسفارمر ماڈل کے ذریعے کوسائن مشابہت کا استعمال کرتے ہوئے رائٹنگ ٹیبل سے ملایا جاتا ہے۔ اگر کوئی میچ ایک قابلِ ترمیم تھریشولڈ سے زیادہ نہ ہو تو، ایک مخصوص 'کمزور ماڈل' گیٹ کیپر کے طور پر کام کرتا ہے: یا تو وہ براہ راست جواب دیتا ہے یا اپنے فیصلے کی بنیاد پر ایک مضبوط ماڈل کو اسکیلیٹ کرتا ہے۔ یہ سسٹم کسی بھی OpenAI مطابقت والے فراہم کنندہ (مثال کے طور پر، OpenRouter) کو سپورٹ کرتا ہے جس میں ایک کسٹم کلائنٹ انجرکٹ کیا جاتا ہے۔ رائٹنگ کانفیگریشن میں ماڈل نامز کو بغیر تبدیلی کے منتقل کیا جاتا ہے، جس سے بیک اینڈ کی تبدیلی کے بغیر رائٹنگ لاگک کو لچکدار بنایا جا سکتا ہے۔ فراہم کنندہ خاص درخواست آپشنز (جیسے extra_body) اور ریسپانس فیلڈز (جیسے reasoning_details) کو محفوظ رکھا جاتا ہے۔ رائٹنگ ٹیبل کے اندراج صرف "weak_model" یا "strong_model" کا حوالہ دیتے ہیں؛ اصل ماڈل شناخت کنندہ ModelSpec آبجیکٹس میں ہوتے ہیں۔ ModelSpec سے استعمال کے نوٹس کو کمزور ماڈل کے سسٹم پرومپٹ میں داخل کیا جاتا ہے تاکہ اسکیلیشن کے رویے کی رہنمائی کی جا سکے۔ ایمبیڈنگ ماڈل (minishlab/potion-base-8M) پہلی بار استعمال کے وقت لیزی ڈاؤن لوڈ ہوتا ہے۔ ریپوزیٹری میں سینتھیٹک ڈیٹا سیٹس کا استعمال کرتے ہوئے رائٹنگ درستگی اور تھریشولڈ حساسیت کا جائزہ لینے کے لیے بینچ مارکنگ ٹولز شامل ہیں۔ یہ ڈیولپمنٹ اور ٹیوننگ کے لیے ہیں، معیاری PyPI انسٹال کا حصہ نہیں ہیں۔ انسٹالیشن کے لیے Python 3.10+ کی ضرورت ہوتی ہے اور یہ pip یا uv کے ذریعے کیا جا سکتا ہے۔ مثالی کوڈ ماحولیاتی متغیرات اور بنیادی رائٹنگ لاگک کے ساتھ حد سے کم سیٹ اپ کا مظاہرہ کرتا ہے۔