عن المشروع

يوفر multi-model-llm-gateway نقطة دخول واحدة للتفاعل مع مختلف مزودي النماذج اللغوية الكبيرة (LLM). وقد تم تصميمه لزيادة الموثوقية والكفاءة من خلال آليتين أساسيتين: التبديل الاحتياطي (fallback)، الذي يضمن استمرارية الخدمة في حال فشل أحد المزودين، وموازنة الحمل (load balancing)، التي تعمل على توزيع الطلبات عبر المزودين المتاحين.