عن المشروع
يوفر Laravel LLM Relay واجهة واحدة ومتسقة في تطبيقات Laravel للتفاعل مع عدة مزودي نماذج لغوية كبيرة — وتحديداً Claude وGPT (OpenAI) وGemini. يقوم النظام تلقائياً بمعالجة إخفاقات المزودين من خلال إعادة المحاولة أو الانتقال إلى المزود التالي المتاح في سلسلة قابلة للتكوين، مما يضمن بقاء ميزات الذكاء الاصطناعي لديك متاحة حتى في حال تعطل إحدى الخدمات. تتضمن كل استجابة بيانات وصفية مثل المزود الناجح، وإجمالي الرموز (tokens) المستخدمة، وزمن الاستجابة بالملي ثانية، مما يتيح مراقبة التكاليف وتحليل الأداء. تدعم الحزمة المطالبات البسيطة، والمحادثات متعددة الأدوار مع تعليمات النظام، وحقن التبعيات (dependency injection). كما تتكامل بسلاسة مع عميل HTTP الخاص بـ Laravel للاختبار عبر Http::fake(). يتم إدارة التكوين من خلال متغيرات البيئة وملفات التكوين المنشورة الاختيارية. يتم تخطي المزودين إذا لم يتم تعيين مفاتيح API الخاصة بهم، ويمكنك فرض مزود معين دون تبديل تلقائي. كما يتم دعم تسجيل كل طلب (المزود، الرموز، زمن الاستجابة) عبر قنوات التسجيل في Laravel. صُمم هذا المشروع للاستخدام في بيئات الإنتاج، حيث يعالج نقاط الألم الشائعة: عدم استقرار المزودين، وتطور تفضيلات النماذج، وشفافية التكاليف. مرخص بموجب رخصة MIT.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.