منصوبے کے بارے میں

🤗 Accelerate ہگنگ فیس کی ایک لائبریری ہے جو PyTorch صارفین کے لیے بنائی گئی ہے تاکہ وہ اپنے تربیتی اسکرپٹس کو کسی بھی ڈیوائس یا تقسیم شدہ کنفیگریشن پر چلا سکیں، بغیر کوڈ کو دوبارہ لکھے۔ یہ صرف ضروری حصوں کو خلاصہ کرتی ہے—ملٹی جی پی یو، ٹی پی یو، اور مخلوط درستگی (fp8, fp16, bf16)—جبکہ آپ کے باقی کوڈ کو تبدیل کیے بغیر چھوڑ دیتی ہے۔ معیاری PyTorch اسکرپٹ میں صرف چند سطریں شامل کرکے، آپ سنگل سی پی یو، سنگل جی پی یو، ملٹی جی پی یو، یا ٹی پی یو سیٹ اپ پر، مخلوط درستگی کے ساتھ یا اس کے بغیر چلا سکتے ہیں۔ لائبریری ایک `Accelerator` کلاس فراہم کرتی ہے جو ڈیوائس کی جگہ، مخلوط درستگی، اور تقسیم شدہ تربیتی سیٹ اپ کو سنبھالتی ہے۔ اس میں ایک سی ایل آئی ٹول (`accelerate config` اور `accelerate launch`) بھی شامل ہے تاکہ تربیتی ماحول کو فوری طور پر ترتیب دیا جا سکے اور لانچ کیا جا سکے، جس سے `torch.distributed.run` یا ٹی پی یو مخصوص لانچرز کو یاد رکھنے کی ضرورت ختم ہو جاتی ہے۔ نوٹ بک صارفین کے لیے، ایک `notebook_launcher` فنکشن کولاب یا کاگل نوٹ بکس سے تقسیم شدہ تربیت کو قابل بناتا ہے۔ Accelerate اعلی درجے کی تقسیم شدہ تربیت کے لیے DeepSpeed اور PyTorch Fully Sharded Data Parallel (FSDP) کے ساتھ ساتھ Megatron-LM کو بھی سپورٹ کرتا ہے۔ یہ ہگنگ فیس ٹرانسفارمرز کی PyTorch تربیت کے بیک اینڈ کے طور پر استعمال ہوتا ہے اور بہت سے دوسرے فریم ورکس جیسے fastai، Catalyst، اور Stable Diffusion Web UI میں ضم کیا گیا ہے۔ انسٹالیشن `pip install accelerate` کے ذریعے سیدھی ہے، اور اس کے لیے Python 3.8+ اور PyTorch 1.10.0+ کی ضرورت ہے۔ یہ پروجیکٹ Apache 2.0 لائسنس کے تحت اوپن سورس ہے اور اس میں وسیع دستاویزات اور مثالیں ہیں۔