عن المشروع

Vessel هو وكيل مراقبة محلي لتتبع حركة مرور نماذج اللغة الكبيرة (LLM). يمكنك توجيه base_url الخاص بالعميل إلى ملف ثنائي واحد وتحصل على الالتقاط والبحث والمقاييس وإعادة التشغيل والمقارنة وواجهة مستخدم خاصة. يتم تخزين كل حركة المرور الملتقطة فقط على جهازك؛ ويتم إعادة توجيه المطالبات فقط إلى موفري النماذج الذين تقوم بتكوينهم. تشمل الخلفيات المدعومة OpenAI (Chat/Responses APIs) وAnthropic Messages وOllama وأي خادم متوافق مع OpenAI (LM Studio وllama.cpp وvLLM). يلتقط Vessel جميع أنواع حركة المرور ويبحث فيها، بما في ذلك التنسيقات غير المعروفة، ويخزنها مع أجسام مضغوطة في قاعدة بيانات SQLite محلية. القدرات الرئيسية: - الالتقاط والبحث: سجل مباشر مع الجلسات والعلامات والفلاتر وصحة الخلفية والتحذيرات. سمات فاتحة/داكنة. - إعادة التشغيل والمقارنة: أعد تشغيل أي طلب ملتقط ضد نفس الخلفية أو خلفية مختلفة أو نموذج مختلف. وزع حتى 8 أشكال (نماذج متعددة أو عمليات مسح للمعلمات مثل درجة الحرارة 0.2/0.7/1.0). قارن الاستجابات جنبًا إلى جنب مع فروق المقاييس. سجل الاستجابات من 1 إلى 5؛ وتقوم التقارير بترتيب النماذج ومجموعات المعلمات حسب متوسط الدرجات. - التقارير: الرموز والطلبات والرموز/الثانية والمدة وكفاءة التخزين المؤقت والتحذيرات حسب النموذج/العلامة/الخلفية ونمو السياق عبر الجلسات. تصدير القوائم المصفاة إلى CSV أو JSONL. - التوجيه والعلامات: قم بتوجيه أي طلب إلى أي خلفية مكونة لكل طلب عبر المسار (/b/{backend}/...) أو رأس X-Vessel-Backend. ضع علامات على الطلبات عبر رأس X-Vessel-Tags أو المسار (/t/{tag}/...) للإسناد في تطبيقات الوكلاء المتعددين. جلسات مسماة عبر X-Vessel-Session. - نقطة نهاية MCP: خادم MCP للقراءة فقط في /vessel/mcp يسمح لأدوات الذكاء الاصطناعي مثل Claude Code بالبحث في حركة المرور الملتقطة وفحصها. يتم أيضًا كشف الطلبات والجلسات الملتقطة كموارد MCP. - التحذيرات: يكتشف التحميلات الباردة وبطء TTFT وبطء الاستجابات والمخرجات المتكررة والاستجابات المقتطعة والرموز المقدرة والتدفقات غير المكتملة وانقطاعات العميل واقتطاع الجسم وأخطاء HTTP/التحليل والمزيد. الخصوصية: يتم إعادة توجيه الطلبات بايتًا بايت. لا يخزن Vessel مفاتيح API أبدًا؛ يتم حذف رؤوس التفويض عند التخزين. يربط localhost افتراضيًا ويحذر إذا قمت بربط عنوان غير حلقي. التثبيت متاح عبر Homebrew (macOS/Linux) وScoop (Windows) وDocker Compose أو التنزيل المباشر. يتم التكوين عبر ملف vessel.json مع خيارات لعنوان الاستماع والخلفيات والمهلات وحدود الاحتفاظ وحدود الالتقاط وعتبات التحذير وتمكين MCP. يتطلب البناء من المصدر .NET 10 وNode.js. مرخص بموجب MIT.