عن المشروع
يعمل MultiRouter AI كنقطة نهاية API واحدة تقوم بتوجيه طلبات إكمال الدردشة بذكاء عبر حسابات متعددة لمزودي خدمات الذكاء الاصطناعي. يتيح للمستخدمين تجميع مفاتيح API للفئات المجانية من خدمات مثل Groq وCerebras وGemini، مع التبديل التلقائي عند وصول أحد الحسابات إلى حدود معدل الاستخدام. النظام متوافق تماماً مع مواصفات OpenAI API، مما يجعله قابلاً للتشغيل المباشر في بيئات التطوير المتكاملة (IDEs) مثل Cursor وWindsurf وClaude Code وAider وغيرها من الأدوات التي تدعم عناوين OpenAI base URLs مخصصة.
تتم إدارة التكوين من خلال ملف YAML (`providers.yaml`) حيث يحدد المستخدمون مثيلات المزودين، ومفاتيح API، والنماذج المدعومة، وأولوية التوجيه. يتم تجربة المزودين بالترتيب — عادةً الفئات المجانية أولاً، ثم المدفوعة أخيراً — مع ميزة التبريد التلقائي وإعادة التنشيط بعد انتهاء حدود معدل الاستخدام. تتوفر استراتيجيتان للتوجيه: 'exhaust' (الافتراضية)، والتي تستخدم كل مزود حتى ينفد، و'round-robin'، التي توزع الطلبات بالتساوي عبر المثيلات النشطة باستخدام اسم النموذج الخاص `multirouter-auto`.
يدعم الخادم الاستجابات المتدفقة عبر Server-Sent Events (SSE) بتنسيق OpenAI، ويوفر نقاط نهاية قياسية مثل `/v1/chat/completions` و`/v1/models` و`/health`. يعمل النظام على Node.js 20+ مع Express 5 وTypeScript 5.9، ويتضمن ميزة تحديد معدل الاستخدام المدمجة والمصادقة عبر bearer token، ويمكنه دمج النماذج المحلية أو المستضافة ذاتياً عبر نوع المزود `openai-compatible` مع `base_url` مخصص.
تشمل أفضل ممارسات الأمان تجاهل ملف `providers.yaml` في git ودعم استكمال متغيرات البيئة للأسرار. المشروع مرخص بموجب رخصة MIT ومصمم للمطورين الذين يسعون للحصول على وصول غير منقطع للذكاء الاصطناعي من خلال تجميع حصص مزودين متعددين دون تعديل تطبيقات العميل.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.