عن المشروع

llm-gateway هي بوابة LLM مؤسسية جاهزة للإنتاج وطائرة تحكم تم تنفيذها باستخدام Java 21 وSpring Boot. تتيح وصولًا موحدًا إلى عدة مزودي LLM مع توفير ضوابط تشغيلية مثل التوجيه، fallback، guardrails، تسجيل التدقيق، ورؤية التكلفة. صُممت لمطوري منصات الذكاء الاصطناعي، وتدعم تعدد المستأجرين عبر المنظمات، المشاريع، ومفاتيح API، وتعرض واجهات API متوافقة مع OpenAI وAnthropic. تفصل الهندسة بين طبقة البيانات القائمة على WebFlux (gateway-app) وطبقة التحكم القائمة على Spring MVC (control-plane)، مع وحدات مشتركة للعقود، الاستمرارية، التوجيه، وSPIs الخاصة بالمزودين. تم بناؤها بتصميم موجه لـ PostgreSQL، وتشتمل على مقاييس Micrometer، توثيق OpenAPI، وتدمج MCP وOAuth لأمان وقت التشغيل. تطوير واجهة التحكم الأمامية جارٍ تحت /frontend. يتطلب التطوير المحلي Java 21، Maven 3.9+، وNode.js/pnpm اختياريًا للعمل على الواجهة الأمامية. تسمح الإعدادات الافتراضية بالاختبار المحلي عبر متغيرات البيئة لمفاتيح المزودين. توثيق Swagger متاح على localhost:8080/docs (gateway) وlocalhost:8081/docs (control plane). المشروع قيد التطوير النشط لكنه مُنظم بنيةً معيارية لتوسيع الميزات تدريجيًا.