عن المشروع

Bifrost هو جسر ذكاء اصطناعي عالي الأداء مصمم لتوحيد الوصول إلى أكثر من 23 مزوّداً للذكاء الاصطناعي—including OpenAI, Anthropic, AWS Bedrock, Google Vertex, Azure وغيرها—من خلال واجهة OpenAI-compatible API واحدة. يلغي الحاجة إلى Redis بالاستعانة بـ Bun وPostgreSQL 18، ويقدّم ميزات مثل التخزين المؤقت الدلالي (semantic caching)، والفوترة بـO(1)، والتقسيم التلقائي (auto-partitioning)، والتحوّل التلقائي عند الأعطال (automatic failover). تُظهر القياسات أنّه يضيف فقط 11 ميكروثانية من الحمل لكل طلب عند سرعة 5k RPS، بمعدل نجاح 100% وزمن انتظار队列 أقل من ميكروثانية واحدة. تُسهّل عملية النشر: يمكن للمستخدمين البدء محلياً عبر NPX أو Docker في أقل من دقيقة، ثم التكوين من خلال واجهة ويب مدمجة. يدعم استبدالات SDK جاهزة لـOpenAI وAnthropic وGoogle GenAI بتغيير واحد في عنوان URL. تشمل القدرات المتقدمة بروتوكول Model Context Protocol (MCP) لدمج الأدوات الخارجية، ودعم الوسائط المتعددة (نصّ، صور، صوت)، ولugged Plugins، وإدارة السيادية عبر المفاتيح الافتراضية، وإدارة الميزانيات، وتوجيه المستخدمين عبر OIDC، ومراقبة الأداء عبر Prometheus والتتبّع الموزع. البنية معيارية، وتتضمّن مكونات للمزوّدين، وتخزين الإعدادات، ونقل HTTP، وواجهة المستخدم، وملugged Plugins قابلة للتوسيع. تفتّح عمليات نشر المؤسسات clustering، والتوازن التكيفي للحمل، وحدود الحماية (guardrails)، وإدارة الأسرار. تغطي الوثائق الإعداد، وتكاملات LangChain وLiteLLM وغيرها، بالإضافة إلى مقاييس الأداء وإرشادات المساهمة. مرخّص بموجب Apache 2.0، وهو من بناء Maxim.