عن المشروع

يُقدَّم النسيج الموحد لحالة الذاكرة الكامنة (UL-SMF) كنسيج ضغط ذاكرة مُصمم بتعاون بين العتاد والبرمجيات، يستهدف عنق الزجاجة في الذاكرة أثناء استدلال المحولات طويل السياق. يجمع النهج المعلن بين التكميم العددي المحدود (FSQ) ورسم خرائط كامن ديناميكي بأبعاد 16، ويتم تنفيذه عبر مكوّن مملوك يسمى نواة Aegis-KV Oracle. يدعي المشروع ضغط موترات ذاكرة التخزين المؤقت للمفاتيح والقيم (KV) بنسبة تصل إلى 384x مع الاحتفاظ بأكثر من 94% من المحتوى الدلالي. المستودع مرخص بموجب AGPLv3 ويتطلب Python 3.10+ وPyTorch 2.0+. ومع ذلك، هناك قيد هيكلي حاسم موثق بوضوح في ملف README: بينما إطار التنسيق والواجهات مفتوحة المصدر، يعتمد خط الإنتاج الكامل على ملف ثنائي مملوك ومُجمَّع (`aegis_kv_oracle_core.pt`) غير مضمّن في المستودع. يحدد البرنامج النصي للبدء السريع مفتوح المصدر بنية خط الأنابيب وتدفق البيانات، لكن التنفيذ المحلي للضغط الفعلي يعتمد على هذا الملف الثنائي الأساسي المرخص. يُوجَّه حاملو التراخيص التجارية إلى عنوان اتصال منفصل (inquiries@lawrencearchitectures.com) للحصول على الملف الثنائي المُحسَّن ودعم التكامل وتوجيه VRAM بدون نسخ. يتضمن ملف README عدة جداول قياس أداء. اختبار استرجاع السياق متعدد الإبر على `unsloth/llama-3-8b-Instruct-bnb-4bit` يُبلغ عن دقة استرجاع 100% عبر ثلاثة أهداف عند 4,892 رمزًا مع ضغط من 128D إلى 16D. يُبلغ جدول ملف تعريف العتاد عن تقليل في VRAM بنسبة 14.66% (من 1317.52 ميجابايت إلى 1124.34 ميجابايت) مع زيادة 3% في سرعة التوليد. يدعي جدول ملف تعريف الموتر المعزول تقليلًا بنسبة 384x (من 48.00 ميجابايت إلى 0.12 ميجابايت) لـ 4096 رمزًا. يُبلغ تدقيق الحيرة على WikiText-2 عن تدهور صافٍ يبلغ حوالي 0.0020. يُقدَّم مسح لمعدل التشويه عبر أبعاد كامنة 32D و16D و8D و4D، مع تحديد 16D كنقطة حد باريتو المثلى. يُظهر جدول توسع التزامن أحجام دفعات من 1 إلى 16 مع نمو الحمل الزائد خطيًا. يجب أن يلاحظ المستخدمون أن الجزء مفتوح المصدر من هذا المستودع يوفر طبقة الواجهة والتنسيق فقط. توجد خوارزميات الضغط الفعلية في الملف الثنائي المملوك Aegis-KV، وهو غير متوفر في المستودع. أرقام القياس المذكورة مُبلَّغة ذاتيًا ولا يمكن التحقق منها بشكل مستقل دون الوصول إلى الملف الثنائي المغلق. يجب على المستخدمين المحتملين تقييم الاتساق الرياضي لنسب الضغط المُبلَّغة بالنسبة لهندسة النموذج المعلنة قبل الاعتماد على هذه النتائج.