منصوبے کے بارے میں

فری LLM Router ایک پایتھن لائبریری اور CLI ٹول ہے جو صارفین کو متعدد مفت ٹیر LLM APIs کے درمیان درخواستوں کو راؤٹ کرنے کی سہولت دیتا ہے۔ یہ کنیزوں، دستیاب ماڈلز کی دریافت، اور معاشی حفاظتی اصولوں کی نگرانی کرتا ہے۔ یہ OpenRouter، Gemini، Groq وغیرہ جیسے فراہم کنندگان کی حمایت کرتا ہے۔ یہ TOOL TOML فائلوں کے ذریعے ترتیب، محفوظ کنی اسٹوریج (فائلیں یا env vars)، اور خودکار فال اوور کی سہولت دیتا ہے۔ حفاظتی خصوصیات میں ٹرائل/ادائیگی والے ماڈلز کے لیے صاف انتخاب، کواٹا گروپنگ، اور خاموشی سے ادائیگی والی ٹیروں پر جانے سے انکار شامل ہے۔ MIT لائسنس شدہ۔