عن المشروع
تتيح PEFT (Parameter-Efficient Fine-Tuning) تكييف النماذج الضخمة مسبقة التدريب مع المهام اللاحقة من خلال الضبط الدقيق لمجموعة فرعية صغيرة فقط من معلمات النموذج بدلاً من الشبكة بأكملها. يقلل هذا النهج بشكل كبير من متطلبات ذاكرة GPU ومساحة التخزين لنقاط التحقق (checkpoints).
تشمل القدرات الرئيسية ما يلي:
- تنفيذ طرق PEFT متنوعة مثل LoRA و Soft prompts و IA3.
- التكامل مع منظومة Hugging Face، بما في ذلك Transformers للتدريب والاستدلال، و Diffusers لإدارة المحولات (adapters)، و Accelerate للحوسبة الموزعة.
- دعم التكميم (مثل QLoRA) لتقليل بصمة الذاكرة بشكل أكبر، مما يسمح بتدريب النماذج الضخمة على أجهزة من الفئة الاستهلاكية.
- القدرة على حفظ وتحميل محولات خفيفة الوزن (غالباً ما تكون بضعة ميجابايت فقط) بدلاً من أوزان النموذج الكاملة.
- التوافق مع TRL لسير عمل RLHF (التعلم التعزيزي من التعليقات البشرية)، بما في ذلك تحسين التفضيلات المباشر (DPO).