عن المشروع
SJMN هو موجّه يعمل على استضافة ذاتية لاتصالات واجهة برمجة التطبيقات الخاصة بنماذج اللغات الكبيرة، مصمّم لضمان توفّر عالي. يتيح للمستخدمين تسجيل اتصال متعدّد متوافق مع OpenAI (مثل OpenAI وAzure OpenAI وOpenRouter وGroq أو مثيلات محلية مثل Ollama وLM Studio) وتعيين ترتيب أولوية لها. إذا فشل الاتصال الأساسي بسبب انتهاء المهلة أو حدوث خطأ، ينتقل المصوِّه تلقائياً إلى الاتصال التالي المتاح في قائمة الأولوية.
من بين الميزات الرئيسية:
- لوحة تحكم المسؤول: واجهة مبنية بـ React لإدارة الاتصالات وإنشاء مفاتيح واجهة برمجة التطبيقات وفحص سجلات الطلبات والردود.
- منطق التوجيه: تحويل احتياطي تلقائي بناءً على أرقام الأولوية (يتم تجربة الأرقام الأقل أولاً).
- ملعب الاختبار: واجهة دردشة متكاملة لاختبار اتصالات معينة أو منطق التحويل الاحتياطي العام.
- مراقبة الصحة: أدوات لاستطلاع الاتصالات ووضع علامة عليها كميت连通 أو غير متصل، مع تحديثات الحالة التي يتم تفعيلها عبر حركة المرور الحية.
- الأمان: وصول المسؤولين محميّ بـ JWT ومصادقة مفتاح واجهة برمجة التطبيقات لنقطة نهاية المصوِّه.
النظام مبني باستخدام Node.js/Express كواجهة خلفية وSQLite لتخزين البيانات وReact/Vite كواجهة أمامية. يمكن نشره عبر Docker Compose أو تشغيله محلياً.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.