عن المشروع

يوفر هذا المستودع تنفيذاً جاهزاً للإنتاج لموجه شلال LLM متعدد الطبقات مصمم لتقليل نفقات API بنسبة تصل إلى 65%. يستخدم النظام مصنفاً خفيف الوزن (Claude Haiku) لتحليل الاستعلامات الواردة وتوجيهها إلى واحدة من ثلاث طبقات أداء: Gemini 2.5 Flash-Lite للتنسيق والاستخراج البسيط، و Claude Sonnet للتحليل والبرمجة المتوسطة، و Claude Opus للاستدلال المعقد. تتضمن الحزمة محرك توجيه أساسياً، وأداة تقييم لقياس دقة التصنيف، وسكريبت وضع الظل (shadow mode) لمراقبة حركة مرور الإنتاج دون التأثير على الاستجابات المباشرة. يدعم النظام واجهات برمجة تطبيقات Anthropic و Google Gemini ويوفر تفاصيل دقيقة عن استخدام الرموز (tokens) وتكاليف كل طلب موجه. تم تصميم هذا التنفيذ للمطورين الذين يتطلعون إلى الموازنة بين أداء النموذج وقيود الميزانية في تطبيقات الذكاء الاصطناعي ذات الحجم الكبير.