عن المشروع
subrelay هو بوابة توجيه خفيفة مصممة لإدارة بيانات اعتماد واجهات برمجة التطبيقات (API) الخاصة بـ OpenAI و Anthropic. يعمل كطبقة وسيطة بين المستخدمين ومزودي الخدمة، ويوفر ميزات مثل الاختيار العشوائي الموزون، والتبديل التلقائي عند الفشل، والتراجع عند حدود المعدل. على عكس البدائل الأثقل، يستخدم SQLite للتخزين ولا يتطلب أي تبعيات خارجية مثل Redis أو PostgreSQL.
تشمل القدرات الرئيسية:
- توافق البروتوكول: يدعم كل من واجهات OpenAI Chat Completions و Anthropic Messages APIs، مع تمرير على مستوى البايت عندما تتطابق البروتوكولات للحفاظ على استدعاء الأدوات والحقول الخاصة بالمزود.
- إدارة بيانات الاعتماد: يتعامل مع مفاتيح متعددة مع تطبيق الميزانية اليومية، وحدود التزامن، وأوقات التبريد التلقائية عند أخطاء 429 أو 5xx.
- تكامل New API: يتميز بأمر sync-newapi لمطابقة التكوينات المحلية مع قنوات New API، ويدعم التشغيل التجريبي، والتنظيف، وسير عمل GitOps.
- قابلية الملاحظة: يوفر مقاييس Prometheus، وفحوصات الصحة، وأداة CLI للطبيب لفحص صحة بيانات الاعتماد.
- ملاءمة المطورين: تكوين YAML بسيط مع استيفاء متغيرات البيئة ونموذج نشر أحادي العملية عبر Python أو Docker.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.