منصوبے کے بارے میں

Simple Router ایک ہلکا پھلکا، سیلف ہوسٹڈ گیٹ وے ہے جسے Next.js کے ساتھ بنایا گیا ہے، جو صارفین کو ایک متحد OpenAI-مطابق API فارمیٹ کے ذریعے مختلف AI پرووائیڈرز—بشمول OpenAI، Gemini، Anthropic، Groq، OpenRouter، Alibaba DashScope، اور Ollama یا vLLM جیسے مقامی سرورز— تک رسائی فراہم کرتا ہے۔ اہم صلاحیتوں میں شامل ہیں: - متحد API Endpoints: چیٹ مکمل کرنے (chat completions)، جوابات، ایمبیڈنگز، امیج جنریشن، اور ماڈل لسٹنگز کی سپورٹ کرتا ہے، جس سے یہ موجودہ OpenAI SDKs کے ساتھ ہم آہنگ ہو جاتا ہے۔ - ایڈوانسڈ راؤٹنگ: متعدد راؤٹنگ حکمت عملیوں جیسے کہ fixed، random، round-robin، weighted، اور priority failover کی سپورٹ کرتا ہے۔ - ورچوئل ماڈلز: API keys ورچوئل ماڈلز کے طور پر کام کر سکتی ہیں، جس سے ایڈمنسٹریٹرز کو مختلف پروجیکٹس کے لیے مخصوص ماڈل لسٹس اور راؤٹنگ حکمت عملیوں کی تعریف کرنے کی اجازت ملتی ہے۔ - مینجمنٹ ٹولز: میٹرکس کی نگرانی، پرووائیڈرز اور کیز (keys) کے انتظام، استعمال کے تجزیات (usage analytics) کو ٹریک کرنے، اور سرچ ایبل لاگز دیکھنے کے لیے ایک ایڈمن ڈیش بورڈ شامل ہے۔ - ریٹ لمٹینگ اور ٹریکنگ: فی کی (per-key) ریٹ لمٹس (درخواستات/ٹوکنز فی منٹ/دن) اور ٹوکن کی تعداد اور لیٹنسی کی بنیاد پر لاگت کا تخمینہ فراہم کرتا ہے۔ - سیکیورٹی: سیشن پر مبنی لاگ ان، JWT API ٹوکنز، اور API keys کے لیے AES-256-GCM انکرپشن کی خصوصیات رکھتا ہے۔ - اسٹریمنگ سپورٹ: چیٹ مکمل کرنے کے لیے Server-Sent Events (SSE) کی سپورٹ کرتا ہے، جس میں Anthropic جیسے پرووائیڈرز کے لیے فارمیٹ کنورژن بھی شامل ہے۔