اوپن سورس۔ نئے امکانات۔

gateway ایک ہیڈ لیس AI گیٹ وے ہے جو OpenAI کے لیے سیکیئر ملٹی یوزر ایکسیس، لاگت ٹریکنگ، ریٹ لمٹنگ، اور PII ریڈیکشن کو کم از کم سیٹ اپ کے ساتھ ممکن بناتا ہے۔

LiteLLM ایک اوپن سورس AI Gateway اور Python SDK ہے جو 100 سے زائد مختلف LLM فراہم کنندگان کو کال کرنے کے لیے ایک متحد OpenAI ہم آہنگ انٹرفیس فراہم کرتا ہے۔

Inja LLM Gateway ایک بے حالت API گیٹ وے ہے جو OpenAI، Anthropic اور Gemini کی درخواستوں کو متعدد فراہم کنندگان پر روٹ کرتا ہے، کراس ڈائیلیکٹ ترجمہ، استعمال کی پیمائش اور سنگل بائنری ڈیپلائمنٹ کے ساتھ۔

ایک اوپن سورس LLM گیٹ وے جس میں متحد API، ملٹی پرووائیڈر روٹنگ، اور ماہانہ اخراجات کی سخت حد مقرر کرنے کی سہولت موجود ہے۔ یہ انڈی ہیکرز اور طلباء کے لیے بنایا گیا ہے۔