منصوبے کے بارے میں

SJMN ایک خود میزبان راؤٹر ہے جو LLM API کالز کے لیے تیار کیا گیا ہے تاکہ بلند دستیابی کو یقینی بنایا جا سکے۔ یہ صارفین کو متعدد اوپن اے آئی کے ہم پیمانہ کنکشنز (جیسے OpenAI، Azure OpenAI، OpenRouter، Groq، یا مقامی انستانسز جیسے Ollama اور LM Studio) رجسٹر کرنے کی اجازت دیتا ہے اور انہیں ترجیحی ترتیب سونپتا ہے۔ اگر ابتدائی کنکشن ٹائم آؤٹ یا غلطی کی وجہ سے ناکام ہو جائے تو راؤٹر خود بخود ترجیحی فہرست میں اگلے دستیاب کنکشن پر فیئل اوور کر دیتا ہے۔ اہم خصوصیات: - ایڈمن ڈیش بورڈ: کنکشنز کو مینیج کرنے، ای پی آئی کیز جنریٹ کرنے، اور ریکویسٹ/ریسپانس لاگز کی جانچ کے لیے ری ایکٹ پر مبنی انٹرفیس۔ - روٹنگ لاجک: ترجیحی نمبروں کے مطابق خودکار فیئل اوور (کم نمبر پہلے آزمائے جاتے ہیں)۔ - پلی گراؤنڈ: مخصوص کنکشنز یا عمومی فال بیک لاجک کو آزمانے کے لیے مجتمع چیٹ انٹرفیس۔ - ہیلتھ مانیٹرنگ: کنکشنز کو پنگ کرنے اور آن لائن یا آف لائن نشان زد کرنے کے اوزار، جبکہ اسٹیٹس اپڈیٹس لائیو ٹریفک سے متحرک ہوتی ہیں۔ - سیکیورٹی: ایڈمن تک رسائی کے لیے JWT سے محفوظ اور راؤٹر اینڈ پوائنٹ کے لیے ای پی آئی کیز تصدیق۔ یہ نظام Node.js/Express بیک اینڈ، SQLite برائے ڈیٹا مستقل مزاجی، اور React/Vite فرنٹ اینڈ پر تعمیر کیا گیا ہے۔ اسے Docker Compose کے ذریعے ڈپلائ کیا جا سکتا ہے یا مقامی طور پر چلایا جا سکتا ہے۔