عن المشروع

Troy هي واجهة سطر أوامر مصممة لتبسيط عملية الضبط الدقيق وضبط التفضيلات لنماذج اللغة الكبيرة (LLMs) مباشرة على أجهزة Apple Silicon. مبنية على MLX وmlx-lm، وتستفيد من معمارية الذاكرة الموحدة في أجهزة Mac لتمكين التدريب المحلي الذي يتطلب عادةً وحدات معالجة رسومات بمستوى محطات العمل في مكان آخر. تشمل الميزات الرئيسية: - **سير عمل مبسط**: يمكن للمستخدمين تكوين مهام التدريب باستخدام ملف YAML واحد وتنفيذ أوامر مثل `troy train` لبدء العملية. - **تنفيذ محلي**: لا حاجة لخدمات سحابية أو وحدات معالجة رسومات متوافقة مع CUDA؛ يعمل بشكل أصلي على أجهزة Mac من طراز M1/M2/M3. - **دعم النماذج**: متوافق مع معماريات متنوعة يدعمها mlx-lm، بما في ذلك Llama وQwen وGemma وPhi وMistral. كما يدعم نماذج الرؤية واللغة عند التثبيت مع تبعيات الرؤية الاختيارية. - **مجموعة أدوات شاملة**: بالإضافة إلى التدريب، يوفر Troy أدوات للتحقق من توافق النظام (`troy doctor`)، والدردشة مع النماذج المدربة (`troy chat`)، وتقييم الأداء (`troy eval`)، وتقديم واجهة برمجة تطبيقات متوافقة مع OpenAI (`troy serve`)، والتصدير إلى تنسيق GGUF لأدوات أخرى، ودفع النتائج إلى Hugging Face Hub. - **أوضاع تدريب مرنة**: يدعم الضبط الدقيق الخاضع للإشراف (SFT)، وتحسين التفضيل المباشر (DPO)، وORPO. تهدف الأداة إلى جعل تخصيص النماذج المتقدم في متناول المطورين والباحثين باستخدام أجهزة MacBook القياسية، مع التعامل مع إدارة الذاكرة تلقائيًا بناءً على قدرات الجهاز.