عن المشروع

Bifrost هي بوابة ذكاء اصطناعي توفّر واجهة برمجية واحدة متوافقة مع OpenAI أمام العديد من مزوّدي النماذج، بما في ذلك OpenAI وAnthropic وAWS Bedrock وGoogle Vertex وAzure وCerebras وCohere وMistral وOllama وGroq. ويمكن تشغيلها محليًا عبر npx أو Docker وتهيئتها من خلال واجهة ويب مدمجة أو واجهة برمجية أو ملفات تهيئة. القدرات الأساسية الموضحة في README: - واجهة موحّدة: نقطة نهاية واحدة متوافقة مع OpenAI لجميع المزوّدين المدعومين. - الموثوقية: تبديل تلقائي بين المزوّدين والنماذج، إضافة إلى موازنة الحمل عبر مفاتيح API والمزوّدين. - بروتوكول سياق النموذج (MCP): يتيح للنماذج استدعاء أدوات خارجية مثل نظام الملفات والبحث على الويب وقواعد البيانات. - التخزين الدلالي: يخزّن الاستجابات بناءً على التشابه الدلالي لتقليل التكلفة وزمن الاستجابة. - دعم متعدد الوسائط والبث خلف واجهة مشتركة. - الحوكمة: مفاتيح افتراضية، وتتبّع الاستخدام، وتحديد المعدل، وإدارة الميزانية الهرمية للفرق والعملاء. - المراقبة: مقاييس Prometheus، والتتبع الموزّع، وتسجيل الطلبات. - نظام إضافات مع وحدات للحوكمة وتحليل JSON والتسجيل والتخزين الدلالي والقياس عن بُعد والمحاكاة وتكامل المراقبة مع Maxim. - ميزات للمؤسسات مثل التجميع والإضافات المخصصة وتزويد مستخدمي OIDC وإدارة الأسرار. تشمل خيارات النشر بوابة HTTP (عبر npx أو Docker)، وGo SDK للاستخدام المدمج، واستبدالًا مباشرًا لعناوين URL الأساسية لـ OpenAI وAnthropic وGoogle GenAI دون تغييرات في الشيفرة. ويتنظم المستودع في أدلة core وframework وtransports وui وplugins وdocs وtests. يذكر README نتائج قياس أداء عند 5,000 طلب في الثانية، مع ادعاء زمن استجابة إضافي منخفض ومعدل نجاح 100%، مع روابط إلى وثائق القياس الكاملة. المشروع مرخّص بموجب Apache 2.0.