عن المشروع

AI Gateway هي بوابة API خفيفة الوزن وقابلة للاستضافة الذاتية، مصممة لتكون متوافقة مع واجهة OpenAI. تتيح للمستخدمين تحديد مسارات مرتبطة بأسماء نماذج محددة تستخدمها تطبيقاتهم، ثم تحاول تنفيذ الطلبات عبر المزودين المكونين بالتسلسل حتى ينجح أحدها، مما يساعد في تقليل الإخفاقات الناتجة عن حدود معدل الطلبات أو الانقطاعات. تدعم النشر عبر Docker، وخدمات systemd، وبناء الملفات الثنائية المحلية. يتم إدارة التكوين عبر YAML مع استبدال متغيرات البيئة، مما يتيح إعداداً مرناً للمزودين (مثل Cerebras و OpenRouter) ومهلات زمنية لكل مسار. تتضمن محولات طلبات لإصلاحات التوافق (مثل تخفيف tool_choice أو حقن JSON schema)، وتدوير نقاط النهاية عند حدوث أخطاء عابرة، ونقاط نهاية تشخيصية. تعتمد المصادقة على مفاتيح API، بينما تكون القياسات عن بُعد عبر OTLP/HTTP اختيارية. تشمل الإعدادات الأمنية الافتراضية التنفيذ بصلاحيات غير جذرية وسجلات منقحة. تعد مثالية للمطورين الذين يدمجون LLMs في تطبيقات مثل n8n مع الحفاظ على المرونة والتحكم في بدائل المزودين.