عن المشروع

Manifest LLM Gateway هي بوابة LLM مفتوحة المصدر مصممة لوكلاء الذكاء الاصطناعي والتطبيقات. وهي تجمع مفاتيح API والاشتراكات والنماذج المحلية في نقطة نهاية واحدة متوافقة مع OpenAI، مما يسمح بتوجيه كل استعلام إلى النموذج المناسب دون الارتباط بمزوّد واحد. تشمل القدرات الرئيسية التوجيه المخصص عبر مفاتيح API والاشتراكات والنماذج المحلية والمزوّدين المخصصين؛ وتسجيل النص الكامل للرسائل الناجحة ورسائل الخطأ؛ وتتبع التكلفة مع الإشعارات والحدود؛ والاحتياط التلقائي إلى نماذج مختلفة عند فشل الاستعلامات، بما في ذلك الإصلاح الذاتي للطلبات السيئة. يدعم المشروع أكثر من 300 نموذج عبر 35 اتصال مزوّد مدمج بالإضافة إلى أي نقطة نهاية مخصصة متوافقة مع OpenAI أو Anthropic. يمكن للمستخدمين إحضار مفاتيح API الخاصة بهم، أو إعادة استخدام أحد 18 مسار اشتراك، أو تشغيل النماذج محليًا. يشمل المزوّدون OpenAI وAnthropic وGoogle وAWS Bedrock وDeepSeek وMistral وOllama وLM Studio وllama.cpp وOpenRouter وHugging Face وغيرهم الكثير. إرسال "model": "auto" يتيح لـ Manifest اختيار النموذج. تشمل خيارات النشر نسخة سحابية على app.manifest.build، وصورة Docker مستضافة ذاتيًا، وقوالب نشر بنقرة واحدة لـ Railway وRender وDigitalOcean وAWS وGCP وFly.io وCoolify وEasypanel وHeroku وKoyeb وApple Containers. المشروع مرخّص بموجب MIT ويوفّر وثائق، وعقدة مجتمع n8n، ومجتمع Discord.