منصوبے کے بارے میں

NeMo AutoModel، NVIDIA NeMo Framework کے تحت ایک اوپن سورس ٹریننگ لائبریری ہے، جسے بڑے پیمانے پر ٹریننگ کے لیے PyTorch DTensor-native SPMD لائبریری قرار دیا گیا ہے۔ یہ بڑے لینگویج ماڈلز، vision-language ماڈلز، diffusion ماڈلز اور retrieval ماڈلز کی ٹریننگ اور فائن ٹیوننگ کو نشانہ بناتی ہے، اور اس کا مقصد چھوٹے تجربات سے لے کر multi-GPU، multi-node deployments تک کی سپورٹ فراہم کرنا ہے۔ README کے مطابق اہم خصوصیات: - Hugging Face کی براہ راست سپورٹ، بہت سے ماڈل خاندانوں اور checkpoints کے لیے recipes کے ساتھ۔ - PyTorch-native parallelism، بشمول tensor، pipeline، expert، context اور data parallelism، نیز packed sequence training۔ - فائن ٹیوننگ کے طریقے جیسے full-parameter SFT اور LoRA/PEFT، LLM اور VLM workloads کے لیے مثال YAML recipes کے ساتھ۔ - Mixture-of-Experts ماڈلز، hybrid attention backbones، اور speculative decoding drafter training (EAGLE variants، DFlash، DSpark) کی سپورٹ۔ - Diffusion اور text-to-image فائن ٹیوننگ کی مثالیں، نیز retrieval-model کوریج۔ - ریپوزٹری میں documentation، model coverage pages، performance summaries، tutorials اور agent-oriented skills۔ یہ پروجیکٹ Python (3.10+) میں لکھا گیا ہے اور ان محققین اور انجینئرز کے لیے ہے جنہیں قابلِ تکرار، قابلِ اسکیل ٹریننگ workflows درکار ہوتے ہیں۔ README میں benchmark دعووں کے بجائے recipes، guides اور examples پر زور دیا گیا ہے۔