عن المشروع
LLM Proxy هي أداة تصحيح أخطاء محلية تعمل كوسيط بين التطبيقات و OpenAI API لتسجيل وفحص حركة البيانات. وهي تتيح للمطورين مراقبة المطالبات الدقيقة، واستهلاك الرموز (tokens)، والتوقيت، والأخطاء في الوقت الفعلي.
تشمل القدرات الرئيسية ما يلي:
- تسجيل الطلبات: تلتقط جميع نقاط النهاية /v1/*، بما في ذلك الاستجابات المتدفقة (streaming)، وتحفظها على القرص بتنسيق JSONL.
- واجهة مستخدم ويب: توفر واجهة قائمة على المتصفح لتصفح سجل الطلبات، والتصفية حسب نقطة النهاية أو النموذج، وفحص أجسام الطلبات والاستجابات الكاملة.
- التكوين: تدعم المنافذ المخصصة، وتجاوز مفاتيح API، ومستويات تسجيل قابلة للتكوين عبر ملف إعدادات أو متغيرات البيئة.
- الأمان: تقوم بتطهير مفاتيح API في السجلات (إظهار آخر 4 أحرف فقط) وترتبط بـ localhost افتراضياً.
- التكامل: متوافقة مع أي عميل أو SDK متوافق مع OpenAI عن طريق تغيير عنوان URL الأساسي إلى عنوان البروكسي المحلي.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.