اوپن سورس۔ نئے امکانات۔

OmniRoute ایک اوپن سورس MIT لائسنس شدہ AI گیٹ وے ہے جو 352+ AI فراہم کنندگان اور 1200+ ماڈلز تک رسائی کے لیے ایک متحد اینڈ پوائنٹ فراہم کرتا ہے۔ اس میں کوٹہ آگاہ خودکار فیل بیک، ٹوکن کمپریشن (15-95% بچت)، اور Claude Code, Cursor, Cline جیسی کوڈنگ ایجنٹس کے ساتھ انٹیگریشن شامل ہے۔

MultiRouter AI ایک OpenAI-مطابق گیٹ وے ہے جو خودکار فیل اوور اور لوڈ بیلنسنگ کے ساتھ متعدد AI فراہم کنندگان کے درمیان چیٹ درخواستوں کو روٹ کرتا ہے۔ یہ YAML کنفیگریشن کے ذریعے Groq، Cerebras، Gemini، OpenAI اور کسٹم اینڈ پوائنٹس کو سپورٹ کرتا ہے۔

CoAI ایک خود میزبان ملٹی ٹیننٹ AI پلیٹ فارم ہے جو چاٹ انٹرفیس اور OpenAI مطابق گیٹ وے کو یکجا کرتا ہے، جس میں ملٹی پرووائیڈر چینل روٹنگ، سبسکرپشن بلنگ، ایڈمن ڈیش بورڈ، فائل پارسنگ اور SearXNG ویب تلاش شامل ہے۔

ایک زیرو-کاسٹ گیٹ وے خاص طور پر Cloudflare Workers AI کے لیے ڈیزائن کیا گیا ہے۔ یہ متعدد اکاؤنٹس کے مفت کوٹہ کو جمع کرکے، ذہین روٹنگ اور فیوزنگ میکانزم کے ذریعے Qwen3 کو معیاری OpenAI API میں تبدیل کرتا ہے، جس سے Cherry Studio جیسے کلائنٹس کو کنیکٹ ہونے کی اجازت ملتی ہے۔

gateway ایک ہیڈ لیس AI گیٹ وے ہے جو OpenAI کے لیے سیکیئر ملٹی یوزر ایکسیس، لاگت ٹریکنگ، ریٹ لمٹنگ، اور PII ریڈیکشن کو کم از کم سیٹ اپ کے ساتھ ممکن بناتا ہے۔

SMBU کیمپس نیٹ ورک کے لیے ایک AI API گیٹ وے اور صارف پورٹل، جو New API پر مبنی ہے، جس میں کیمپس ای میل رجسٹریشن، گرافک ویریفیکیشن، ماڈل مارکیٹ، ٹیوٹوریلز اور فیڈ بیک سسٹم شامل ہیں۔

LiteLLM ایک اوپن سورس AI Gateway اور Python SDK ہے جو 100 سے زائد مختلف LLM فراہم کنندگان کو کال کرنے کے لیے ایک متحد OpenAI ہم آہنگ انٹرفیس فراہم کرتا ہے۔

AIGate ایک مقامی طور پر چلنے والا OpenAI-compatible ریورس پروکسی گیٹوے ہے جو کئی AI سروس فراہم کنندگان کے API کو یکجا مدیریت کرتا ہے۔ یہ ملٹی وینڈر راؤٹنگ، بریکر پروٹیکشن، سرخ رنگ کی غلطی پیغامات، بصری مینجمنٹ پینل اور مقامی ڈیسک ٹاپ ایپلیکیشن کی سہولت فراہم کرتا ہے۔

نیو API ایک خود میزبانی قابل LLM گیٹ وے ہے جو متعدد AI فراہم کنندگان کو یکجا کرتا ہے اور OpenAI، Claude اور Gemini API فارمیٹس کے درمیان تبدیلی کرتا ہے، نیز کثیر صارف کی توثیق، چینل روٹنگ، دوبارہ کوشش اور استعمال پر مبنی بلنگ شامل کرتا ہے۔

سویچ بورڈ ایک لوکل AI گیٹ وے ہے جو آپ کی مشین پر چلتا ہے اور 16 مختلف AI فراہم کنندگان کے درمیان درخواستوں کو راؤٹ کرتا ہے۔ یہ مفت ٹیرز کو ترجیح دیتا ہے، خودکار فیل بیک فراہم کرتا ہے اور ہر فیصلے کی تفصیلی رپورٹنگ کرتا ہے۔

Higress ایک کلاؤڈ-نیٹو AI-نیٹو API گیٹ وے ہے جو Istio اور Envoy پر بنایا گیا ہے، جس میں Wasm پلگ ان توسیع، متحد LLM فراہم کنندہ رسائی، MCP سرور ہوسٹنگ، اور Kubernetes ingress سپورٹ شامل ہے۔

Hyperstrate Server ایک خود-hosted انٹرپرائز AI گیٹوی ہے جو ماڈل روٹنگ، فراہم کنندہ آرکیسٹریشن، اور پروڈکشن LLM ٹریفک کے لیے حکمرانی فراہم کرتا ہے۔

یہ پروجیکٹ LiteLLM اور LangChain کے ذریعے متعدد AI فراہم کنندگان تک یکساں رسائی فراہم کرنے والا LLM Gateway بناتا ہے، جس میں ماڈل رائٹنگ، خودکار فیلی اوور، لاڈ بالانسنگ، لاگت کی نگرانی اور حفاظتی تدابیر شامل ہیں۔

کانگ گیٹ وے ایک کلاؤڈ نیٹیو، پلیٹ فارم ایجنوسٹک اور پیمانے پر قابل API، LLM اور MCP گیٹ وے ہے جو پراکسی، راؤٹنگ، لوڈ بالینسنگ، ہیلتھ چیکنگ اور تصدیق کو یکجا کرتا ہے۔

Apache APISIX ایک متحرک، ریئل ٹائم، اعلیٰ کارکردگی والا کلاؤڈ نیٹیو API اور AI گیٹ وے ہے جو NGINX اور etcd پر مبنی ہے، جس میں ڈائنامک روٹنگ، پلگ ان ہاٹ لوڈنگ، ملٹی پروٹوکول سپورٹ، اور LLM ورک لوڈز کے لیے AI پراکسی شامل ہیں۔

AI Gateway intent، لاگت اور فراہم کنندہ کی صحت کے مطابق LLM requests کو ذہانت سے routing کرتا ہے۔ multi-tenant access، caching، failover اور observability کی support — production AI apps کے لیے لاگت کم کرتا اور reliability بہتر بناتا ہے۔