منصوبے کے بارے میں
LocalRouter ایک سیلف ہوسٹڈ AI API پراکسی گیٹ وے ہے جسے مکمل طور پر آپ کی مقامی مشین پر چلانے کے لیے ڈیزائن کیا گیا ہے۔ یہ ڈویلپرز کو متعدد AI فراہم کنندگان — بشمول OpenAI، Anthropic، Azure، Ollama اور دیگر — تک رسائی کو ایک ہی مستقل اینڈ پوائنٹ کے پیچھے متحد کرنے کی اجازت دیتا ہے۔ یہ فراہم کنندگان یا ماڈلز کو تبدیل کرتے وقت ایپلی کیشن کوڈ میں ترمیم کی ضرورت کو ختم کرتا ہے۔ کلیدی خصوصیات میں ماڈل ایلیئسنگ (مثلاً 'gpt-4o' کو کسی بھی اپ اسٹریم فراہم کنندہ کے ساتھ میپ کرنا)، فعال اپ اسٹریمز کے درمیان ون کلک سوئچنگ، درخواست/جواب کی مکمل لاگنگ (بشمول اسٹریمنگ SSE مواد)، قابل ترتیب قیمتوں کی بنیاد پر ریئل ٹائم لاگت کی ٹریکنگ، اور ٹوکن رجحانات اور ذریعہ، انٹری یا ماڈل کے لحاظ سے تفصیلی استعمال کے تجزیات شامل ہیں۔ یہ ٹول اختیاری تصدیقی ٹوکنز کے ذریعے رسائی کنٹرول کی حمایت کرتا ہے اور ڈیسک ٹاپ ایپس (macOS، Windows، Linux) اور سرور موڈز دونوں پیش کرتا ہے۔ تمام ڈیٹا مقامی طور پر ایک SQLite ڈیٹا بیس میں محفوظ کیا جاتا ہے، جو رازداری اور آف لائن آپریشن کو یقینی بناتا ہے۔ ڈویلپرز صرف بیس URL تبدیل کر کے اسے موجودہ OpenAI SDKs کے ساتھ آسانی سے ضم کر سکتے ہیں۔ ڈیش بورڈ ذرائع، انٹریز، لاگز اور اعداد و شمار کا بصری انتظام فراہم کرتا ہے، جس سے ڈیبگنگ اور مانیٹرنگ سادہ ہو جاتی ہے۔ لاگز کی حد 10,000 انٹریز تک ہے جس میں غیر اسٹارڈ ریکارڈز کی خودکار کٹائی ہوتی ہے، جبکہ اسٹارڈ لاگز کو غیر محدود طور پر محفوظ رکھا جاتا ہے۔ پورٹ اور ڈیٹا بیس پاتھ کے لیے .env فائل کے ذریعے کنفیگریشن سادہ ہے۔ MIT لائسنس شدہ۔
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.