منصوبے کے بارے میں
FreeLLMAPI 34 LLM فراہم کنندگان اور 600 سے زیادہ ماڈل اینڈ پوائنٹس کے مفت ٹائرز تک رسائی کے لیے ایک متحد /v1 اینڈ پوائنٹ فراہم کرتا ہے۔ یہ صارفین کو ریٹ لمٹس اور فراہم کنندگان کی ناکامیوں کو خودکار طور پر مینیج کرتے ہوئے، کل دستیاب انفرنس کیپیسٹی بڑھانے کے لیے متعدد مفت کوٹاز کو یکجا کرنے کی اجازت دیتا ہے۔
اہم صلاحیتوں میں شامل ہیں:
- Unified API: چیٹ، مکمل کرنے (completions)، ایمبیڈنگز، تصاویر، ویڈیو، اور اسپیچ کے لیے OpenAI کے ہم آہنگ سرفسز کے ساتھ ساتھ Anthropic Messages اور Gemini نیٹو سرفسز کی حمایت کرتا ہے۔
- Smart Routing: چھ روٹنگ حکمت عملیوں سے لیس ہے جس میں خودکار فیل اوور اور کی (key) کی تبدیلی شامل ہے جب فراہم کنندگان ریٹ لمیٹڈ ہوں یا غلطیاں واپس کریں۔
- Model Management: اس میں ایک خودکار طور پر اپ ڈیٹ ہونے والا ماڈل کیٹلاگ اور انکرپٹڈ API کیز کے انتظام اور استعمال کے تجزیات کو ٹریک کرنے کے لیے React پر مبنی ایڈمن ڈیش بورڈ شامل ہے۔
- Advanced Features: 'Fusion' (ملٹی ماڈل سنتھیسس)، پرامپٹ کمپریشن، سیاق و سباق کی منتقلی کے لیے اسٹکی سیشنز، اور ایجنٹ انٹراسپیکشن کے لیے ایک MCP سرور پیش کرتا ہے۔
- Deployment: یہ Docker کنٹینر، macOS اور Windows کے لیے نیٹو ڈیسک ٹاپ ایپ کے طور پر دستیاب ہے، اور ARM SBCs سمیت Node 20+ ماحول پر چلتا ہے۔
- Integration: مختلف کوڈنگ ایجنٹس اور CLIs جیسے کہ Claude Code، Aider، Cline، اور Cursor کے لیے خودکار سیٹ اپ ٹولز فراہم کرتا ہے۔