इस प्रोजेक्ट के बारे में

Troy एक command-line interface है जिसे Apple Silicon हार्डवेयर पर सीधे large language models (LLMs) को fine-tuning और preference-tuning करने की प्रक्रिया को सरल बनाने के लिए डिज़ाइन किया गया है। MLX और mlx-lm के ऊपर बनाया गया, यह Macs की unified memory architecture का लाभ उठाता है ताकि स्थानीय training संभव हो सके, जिसके लिए अन्यथा workstation-grade GPUs की आवश्यकता होती। मुख्य विशेषताएं शामिल हैं: - **सरलीकृत Workflow**: उपयोगकर्ता एक ही YAML फ़ाइल का उपयोग करके training कार्यों को कॉन्फ़िगर कर सकते हैं और प्रक्रिया शुरू करने के लिए `troy train` जैसे commands निष्पादित कर सकते हैं। - **स्थानीय Execution**: cloud सेवाओं या CUDA-संगत GPUs की आवश्यकता नहीं; यह M1/M2/M3 Macs पर मूल रूप से चलता है। - **Model Support**: mlx-lm द्वारा समर्थित विभिन्न architectures के साथ संगत, जिनमें Llama, Qwen, Gemma, Phi, और Mistral शामिल हैं। यह vision-language models का भी समर्थन करता है जब optional vision dependencies के साथ installed हो। - **व्यापक Toolset**: training के अलावा, Troy system compatibility की जांच (`troy doctor`), trained models के साथ chat (`troy chat`), performance का मूल्यांकन (`troy eval`), OpenAI-संगत API की serving (`troy serve`), अन्य tools के लिए GGUF format में export, और Hugging Face Hub पर results push करने के लिए utilities प्रदान करता है। - **लचीले Training Modes**: Supervised Fine-Tuning (SFT), Direct Preference Optimization (DPO), और ORPO का समर्थन करता है। यह tool advanced model customization को developers और researchers के लिए सुलभ बनाने का लक्ष्य रखता है, standard MacBook हार्डवेयर के साथ, device की क्षमताओं के आधार पर memory management को स्वचालित रूप से संभालता है।