عن المشروع

Drowse هي بيئة عمل محلية للتفسير الآلي على نماذج اللغات الكبيرة. توفر لوحة تحكم محلية، وواجهة برمجة تطبيقات Python، وخادم HTTP متوافقًا مع كل من عملاء OpenAI وOllama. بدء الاستخدام السريع يتم من نسخة المصدر في بيئة افتراضية (`uv pip install -e .`) ويُطلق عبر `drowse serve google/gemma-3-4b-it`، مع فتح لوحة تحكم على localhost:8000. الإطلاق الأول يقوم بتنزيل النموذج وملاءمة 17 مسبارًا مفاهيميًا مرفقًا، مخزنة تحت `~/.drowse/`. يتم دعم CUDA وApple Silicon MPS، مع خيارات اختيارية لـ FlashAttention وتكميم bitsandbytes. يتم تضمين إصدار متصفح مستضاف كتطبيق ويب تقدمي Svelte معزول للاستدلال عبر WebGPU على الجهاز. ملف README صريح بشأن حدوده: أقفال وقت التشغيل والتوزيع مُعلَّمة كموثَّقة، لكن فحوصات الإصدار لا تضمن استقرار GPU تحت حمل النموذج؛ لدى Gemma PT تباين عددي في الأوزان المتطابقة ولا يزال Qwen 3.5 بحاجة إلى التحقق من التكميم المتطابق. تقارير فحوصات الأجهزة تُظهر بائع GPU والمعمارية، وتحظر ملفات التعريف مع تسجيل خسائر الأجهزة، وتتحفظ بشكل تحفظي على Windows Chromium على محولات Intel من الجيل التاسع المحددة. WebGPU إلزامي للاستدلال، دون بديل سحابي أو CPU فقط، وتبقى المطالبات والمحادثات والتنشيطات والقطع المولَّفة على الجهاز. تنظم واجهة الويب المحادثات كأشجار فروع مترابطة مع إعادة التوليد والحفظ/التحميل وعناصر تحكم قياسية في أخذ العينات. يعرض وضع الدردشة قوالب النموذج كدورات مع تفكير قابل للطي ومعالجة ديناميكية للأدوار؛ بينما يكشف الوضع الخام عن مخزن مؤقت واحد للنماذج الأساسية. يمكن تمييز الرموز المميزة بدرجات المسبار أو مفاجأة logprob، والنقر على رمز مميز يفتح درجًا تفصيليًا مع الهندسة، وlogits (بما في ذلك تفرع الرمز المميز)، وSAE، وعروض J-lens. يتم تجميع الأدوات في علامات التبويب Subspace وManifold وSAE وLens، مع أدوات تحليل إضافية للملاءمة والدمج والتثبيت وفحص الخطوط متعددة الشعب، وتسجيل القوالب المقيدة الاختيارية، وإدارة التوجيه، والتحقق من صحة الخادم. يتم استخلاص المفاهيم كخطوط متعددة الشعب أو فضاءات فرعية: الفضاء الفرعي المسطح أحادي البعد هو متجه توجيه، والفضاءات الفرعية المسطحة عالية الرتبة هي مجموعات متعامدة، والخطوط متعددة الشعب المنحنية تلائم أسطحًا غير خطية. تغطي المسبارات المرفقة أزواجًا مفاهيمية معرفية وتوافقية وتسجيلات وثقافية، بالإضافة إلى مجموعات اختيارية أكبر للشخصيات والعواطف والأشهر. تعمل صيغة توجيه موحدة عبر Python وYAML وOpenAI وOllama وAPI الأصلي، مع دعم الجمع/الطرح، وعوامل الاحتفاظ/الإزالة للمكونات المشتركة، ومتوسط الإزالة، واختيار عقدة الخط متعدد الشعب، وقيود مرحلة الرمز المميز، وقيود نافذة فك التشفير، وبوابات المسبار الحية. يتم الاستخلاص عبر إجابة النموذج على مطالبات أساسية ككل مفهوم، ثم ملاءمة الحالات الخفية لخط متعدد الشعب أو فضاء فرعي، باستخدام مقياس Mahalanobis لتخصيص الطبقة واختيار الطبقة التمييزية. تشمل القراءات الرصدية الإحداثيات الملائمة، وكسر الفضاء الفرعي، والعقد الأقرب مع التخصيص الناعم، والبقايا خارج السطح للخطوط المنحنية متعددة الشعب. تتبع عدسة جاكوبيان الأعمال المنشورة حول الفضاء القابل للتعبير اللفظي، ويدعم تكامل SAE إصدارات SAELens المنشورة أو تدريب SAEs محلية. تتضمن واجهة سطر الأوامر ثمانية أفعال: serve، manifold، pack، experiment، config، template، lens، وsae، تغطي الإعداد القابل للتكرار والتوزيع والعمل الدفعي. يمكن تثبيت حزم الخطوط متعددة الشعب من مسارات محلية أو توزيعها كمستودعات نماذج Hugging Face، وينقل ملف `.drowse` ZIP إغلاق خط متعدد الشعب واحد بالإضافة إلى قالب مرجعي. يمكن تصدير خط متعدد الشعب ملائم بعقدتين PCA كملف GGUF للتحكم في المتجهات الخاص بـ llama.cpp. لا يقبل اكتشاف المتصفح المستضاف إلا مستودعات Hugging Face الموسومة بـ `drowse-manifold` مع `.drowse` جذر واحد و`manifold.json` جذر، ويتم حلها إلى التزام غير قابل للتغيير والتحقق من المستودع والمراجعة المعلنين. تعمل عملية واحدة `drowse serve` على كشف أربعة أسطح على منفذ واحد: واجهة الويب، و`/v1/*` المتوافق مع OpenAI، و`/api/*` المتوافق مع Ollama، وAPI أصلي `/drowse/v1/*` للجلسات وأشجار النسيج والمسبارات والخطوط متعددة الشعب والقوالب ودورة حياة SAE/J-LENS وإعادة التشغيل وSSE وWebSockets للرموز المميزة مع القياسات. تتركز واجهة برمجة تطبيقات Python حول `DrowseSession`، مع `extract` و`add_probe` و`generate` و`generate_stream` و`generate_batch` و`generate_sweep` و`score_choices`، بالإضافة إلى أدوات مساعدة للرسم في دفاتر الملاحظات. يشمل دعم النماذج مسارات مختبرة من النهاية إلى النهاية لـ Qwen 2/3/3.5 وGemma 2/3/4 وMistral 3 وMinistral 3 وLlama وGLM وgpt-oss وTalkie، مع معماريات إضافية موصولة عبر واجهة طبقة متبقية عامة وتحذيرات عند عدم اختبارها. يوضح README صراحة أن Drowse تستهدف جهازًا محليًا موثوقًا أو شبكة مختبر وليس خدمة متعددة المستأجرين محصنة، وينصح بمفاتيح API وTLS وحدود المعدل والعزل إذا تم ربطها خارج مضيف موثوق. تنفيذ Python في المستودع معطل افتراضيًا ويتطلب قبولًا صريحًا. توجد الحالة تحت `~/.drowse/` (قابلة للنقل عبر `$DROWSE_HOME`)، بينما تكون عمليات حفظ المحادثة ملفات JSON صريحة يتم تنزيلها من المتصفح وليست حفظًا تلقائيًا. المشروع مرخص بـ AGPL-3.0-or-later وينسب الفضل إلى Representation Engineering وrepeng والاستخلاص بفارق المتوسطات وعمل Goodfire للخطوط متعددة الشعب وتأطير مساعد Anthropic وطريقة J-lens من Gurnee وآخرين.