مصدر مفتوح. آفاق جديدة.

llm-apipool يجمع أكثر من 40 واجهة برمجة تطبيقات للذكاء الاصطناعي المجانية في نقطة نهاية متوافقة مع OpenAI. يدير المفاتيح تلقائيًا، ويتعامل مع حدود المعدلات، ويتتبع الاستخدام، ويدعم CLI وTUI والبروكسي وتكامل LangChain.

وكيل عكسي خفيف لـ OpenAI API يتميز بميزانيات رموز لكل مفتاح، وتحديد معدل الاستخدام، ولوحات تحكم في التكاليف، وخاصية التخفيض التلقائي لنوع النموذج.

وكيل FastAPI بسيط لواجهة برمجة تطبيقات OpenAI لمحادثات التش completion والتضمين. يدعم تعيين مفاتيح متعددة المستأجرين، والبث، وتوافق SDK الرسمي دون الحاجة لقاعدة بيانات.

Gemini Web2API هو خادم وسيط محلي يترجم طلبات إكمال الدردشة على طراز OpenAI إلى استدعاءات لواجهة Gemini Web API الخاصة بجوجل. يعتمد على مصادقة ملفات تعريف الارتباط بدلاً من المفاتيح الرسمية، ويدعم البث والتدفق ووظائف الأدوات مع عدة نماذج.

OmniRoute هو بوابة ذكاء اصطناعي مفتوحة المصدر مرخصة بموجب MIT توفر نقطة نهاية موحدة للوصول إلى أكثر من 352 مزود ذكاء اصطناعي و1200+ نموذج (150+ طبقة مجانية). يتميز بنظام التوجيه التلقائي المدعوم بالحصص، وضغط Tokens يوفر 15-95٪، ويتكامل مع Claude Code وCursor وCline وغيرها من وكلاء البرمجة.

موجه ذكي لنماذج LLM متوافق مع OpenAI ويعمل كوكيل احتياطي (fallback proxy) لتحسين التكاليف عبر توجيه الاستعلامات البسيطة إلى النماذج اللغوية الصغيرة (SLMs) والمعقدة إلى النماذج الرائدة.

LiteLLM هو بوابة ذكاء اصطناعي مفتوحة المصدر وSDK بلغة Python يوفر واجهة موحدة متوافقة مع OpenAI لاستدعاء أكثر من 100 مزود مختلف لنماذج اللغة الكبيرة (LLM).

بوابة API محلية متوافقة مع OpenAI تدعم التوجيه عبر عدة موردين، وحماية Circuit Breaker، ورسائل أخطاء بالصينية، ولوحة إدارة مرئية، مع تطبيق سطح مكتب أصلي.

Proxy API محلي خفيف الوزن يقلل تكاليف LLM عبر ضغط محادثات الدردشة وإزالة التكرارات وتطبيق التخزين المؤقت الدلالي.

كونغ غيتواي هو غيتواي سحابي أصلي، محايد للمنصة، لواجهة برمجة التطبيقات ونماذج اللغة الكبيرة ومُعالج MCP، يتمتع بالتوسعية القائمة على الإضافات، والتوجيه، وموازنة الأحمال، والمصادقة، وميزات حركة المرور الذكية.

خدمة Relay خفيفة لإنشاء واجهة OpenAI تعتمد على Bun لتوجيه الطلبات إلى خدمات خلفية متعددة متوافقة مع OpenAI بناءً على بادئات النماذج.