منصوبے کے بارے میں

سویچ بورڈ ایک لوکل-فرسٹ AI گیٹ وے ہے جو مکمل طور پر آپ کی مشین پر چلتا ہے اور ایک OpenAI-compatible اینڈ پوائنٹ فراہم کرتا ہے جو درخواستوں کو 16 مختلف AI فراہم کنندگان میں راؤٹ کرتا ہے جن میں Groq, Cerebras, Google, OpenRouter, DeepSeek, Mistral, OpenAI اور Anthropic شامل ہیں۔ یہ حقیقی وقت کے عوامل جیسے صحت، لیٹنسی، لاگت اور ٹیر کی بنیاد پر ہر درخواست کے لیے بہترین فراہم کنندہ کا انتخاب کرتا ہے — مفت ٹیرز کو ترجیح دیتے ہوئے اور خودکار طور پر فیل بیک کرتا ہے اگر کوئی فراہم کنندہ ناکام ہو جائے۔ ہر راؤٹنگ فیصلہ محفوظ اور تفصیل سے وضاحت کے ساتھ اسٹور کیا جاتا ہے، دکھاتا ہے کہ ہر امیدوار کو کیوں منتخب یا خارج کیا گیا، لاگت کی تفصیلات اور ناکامی کے اسباب سمیت۔ اس سسٹم کو کوئی کلاؤڈ اکاؤنٹ یا ٹیلی میٹری کی ضرورت نہیں ہے؛ سرٹیفکیٹ AES-256-GCM کا استعمال کرتے ہوئے مقامی طور پر انکرپٹ کیے جاتے ہیں اور صرف اپ اسٹریم API کالز کے لیے ہی آپ کی ڈیوائس سے باہر جاتے ہیں۔ یہ سٹریمنگ اور نان سٹریمنگ چیٹ کمپلیشن، ایمبیڈنگز، امیج جنریشن، آڈیو اسپيچ اور ٹرانسکرپشن، ریریکنگ اور مڈریشن اینڈ پوائنٹس کی حمایت کرتا ہے۔ تمام جوابات میں راؤٹنگ میٹا ڈیٹا ہیڈرز شامل ہوتے ہیں جیسے استعمال شدہ فراہم کنندہ، ماڈل، ٹیر، لاگت، لیٹنسی اور متعلقہ صورت میں فیل بیک وجہ۔ سویچ بورڈ میں http://localhost:7272 پر ایک ڈیش بورڈ اور فراہم کنندگان، کلیدوں، ماڈلز اور پالیسیز کو منظم کرنے کے لیے CLI ٹول (sb) شامل ہے۔ آپ ٹریفک بھیجے بغیر راؤٹنگ فیصلوں کی سمیولیشن کر سکتے ہیں، 'auto' (فردirst), 'fast', 'quality' یا 'failover' جیسی حکمت عملیوں کو ٹون کر سکتے ہیں اور تفصیلی لاگز اور استعمال کی رپورٹس دیکھ سکتے ہیں۔ یہ Node.js 22.13+ کے ساتھ بنایا گیا ہے، SQLite کو پرسیسٹنس کے بغیر کسی نیٹیو ماڈیول کے بغیر استعمال کرتا ہے، اور Windows, macOS اور Linux پر یکساں طور پر کام کرتا ہے۔ ریزیلینس کی خصوصیات میں ہر کنکشن کے لیے سرکٹ بریکرز، ریٹ لمٹس کے بعد ماڈل لاک آؤٹس اور maxAttempts تک فیل بیک واک شامل ہیں۔ سٹریمنگ جوابات کو ایک بار شروع ہونے کے بعد دوبارہ نہیں چلانے کی جاتی۔ کانفیگریشن اختیاری ہے اور معقول ڈیفالٹس موجود ہیں، سیکیورٹی کے لیے CORS ڈیفالٹ طور پر غیر فعال ہے۔ ڈیسک ٹاپ ایپ Electron کے ذریعے بلڈ ہوتی ہے اور سسٹم ٹری میں start-at-login سپورٹ کے ساتھ چلتی ہے۔ یہ ابھی pre-1.0 ہے، جس نے ٹیسٹ کوریج (~1035 ٹیسٹس)، ساختی لاگنگ کے ساتھ ریڈیکشن، پرسیسٹ ریٹ لمیٹنگ اور سیکیور کریڈینشل ہینڈلنگ سمیت اہم آڈٹ مسائل کو حل کیا ہے۔ جانے جانے والی حدود میں npm رسائی نہیں ہے (git clone سے انسٹال کریں)، کوئی end-to-end ٹیسٹ نہیں ہیں، ایڈمن ایکشنز کے لیے آڈٹ لاگ نہیں ہے، اور گریس فل شٹ ڈاؤن نہیں ہے۔ بغیر ریورس پروکسی اور تصدیق کے عوامی انٹرنیٹ تک رسائی کے لیے یہ موزوں نہیں ہے۔