عن المشروع
توفر FreeLLMAPI نقطة نهاية موحدة /v1 للوصول إلى الفئات المجانية من 34 مزود LLM وأكثر من 600 نقطة نهاية للنماذج. وهي تتيح للمستخدمين تكديس حصص مجانية متعددة لزيادة إجمالي سعة الاستدلال المتاحة مع إدارة حدود المعدل وإخفاقات المزودين تلقائياً.
تشمل القدرات الرئيسية ما يلي:
- واجهة برمجة تطبيقات موحدة: تدعم الواجهات المتوافقة مع OpenAI للدردشة، والإكمال، والتضمينات (embeddings)، والصور، والفيديو، والكلام، بالإضافة إلى واجهات Anthropic Messages و Gemini الأصلية.
- التوجيه الذكي: تتميز بست استراتيجيات توجيه مع فشل تلقائي وتدوير للمفاتيح عندما يتم تقييد معدل المزودين أو عند إرجاع أخطاء.
- إدارة النماذج: تتضمن كتالوج نماذج ذاتي التحديث ولوحة تحكم إدارية قائمة على React لإدارة مفاتيح API المشفرة وتتبع تحليلات الاستخدام.
- ميزات متقدمة: توفر ميزة 'Fusion' (توليف متعدد النماذج)، وضغط المطالبات (prompt compression)، والجلسات المثبتة (sticky sessions) لتسليم السياق، وخادم MCP لفحص الوكلاء.
- النشر: متاحة كحاوية Docker، وتطبيق سطح مكتب أصلي لنظامي macOS و Windows، وتعمل على بيئات Node 20+ بما في ذلك ARM SBCs.
- التكامل: توفر أدوات إعداد مؤتمتة لمختلف وكلاء البرمجة وواجهات السطر البرمجي (CLIs) مثل Claude Code و Aider و Cline و Cursor.