منصوبے کے بارے میں

LlamaFactory بڑے لینگویج ماڈلز (LLMs) اور ملٹی موڈل ماڈلز کی فائن ٹیوننگ کے لیے ایک اوپن سورس فریم ورک ہے۔ README میں کئی ماڈل خاندانوں کی حمایت کا ذکر ہے، جن میں LLaMA/LLaVA، Mistral، Mixtral، Qwen3/Qwen2.5-VL، DeepSeek، Gemma، GLM، Phi، GPT-OSS، InternVL اور دیگر شامل ہیں۔ یہ متعدد ٹریننگ طریقوں کو یکجا کرتا ہے: مسلسل پری ٹریننگ، سپروائزڈ فائن ٹیوننگ، ریوارڈ ماڈلنگ، اور ترجیحی یا ری انفورسمنٹ لرننگ کے طریقے جیسے PPO، DPO، KTO، ORPO اور SimPO۔ یہ فل پیرامیٹر، فریز، LoRA اور کوانٹائزڈ QLoRA ٹیوننگ کی بھی حمایت کرتا ہے، بشمول AQLM، AWQ، GPTQ، LLM.int8، HQQ اور EETQ کے ذریعے 2/3/4/5/6/8-bit کوانٹائزیشن۔ پروجیکٹ میں جدید آپٹیمائزرز اور کارکردگی کی تکنیکیں شامل ہیں: GaLore، BAdam، APOLLO، Adam-mini، Muon، OFT، DoRA، LongLoRA، PiSSA، FlashAttention-2، Unsloth، Liger Kernel، RoPE scaling، NEFTune اور rsLoRA۔ حالیہ changelog اندراجات میں Megatron-core ٹریننگ بیک اینڈ، SGLang انفرنس سپورٹ، اور GPT-OSS، Qwen2.5 Omni، GLM-4.1V-Thinking اور Intern-S1-mini ماڈلز کے لیے فائن ٹیوننگ سپورٹ کا بھی ذکر ہے۔ LlamaFactory کمانڈ لائن انٹرفیس اور Gradio کے ساتھ بنائے گئے LLaMA Board Web UI کے ذریعے زیرو کوڈ استعمال فراہم کرتا ہے، نیز ایک Colab نوٹ بک اور PAI-DSW اور Hugging Face Spaces جیسے پلیٹ فارمز کے لیے کلاؤڈ ڈیپلائمنٹ ٹیمپلیٹس بھی۔ فائن ٹیونڈ چیک پوائنٹس کو ایکسپورٹ کیا جا سکتا ہے اور OpenAI-compatible API، Gradio انٹرفیس، یا CLI کے ذریعے سرو کیا جا سکتا ہے، جہاں vLLM یا SGLang تیز تر انفرنس بیک اینڈ کے طور پر دستیاب ہیں۔ تجرباتی ٹریکنگ TensorBoard، WandB، MLflow، SwanLab اور LlamaBoard کے ساتھ supported ہے۔ ماڈلز اور ڈیٹاسیٹس Hugging Face، ModelScope اور Modelers Hub سے ڈاؤن لوڈ کیے جا سکتے ہیں۔ README میں Amazon، NVIDIA اور Aliyun کی جانب سے استعمال کا بھی حوالہ دیا گیا ہے، اور دستاویزات، Docker امیجز، نمونہ نوٹ بکس اور پروجیکٹ کے سرکاری بلاگ کے لنکس شامل ہیں۔