इस प्रोजेक्ट के बारे में
PyTorch Lightning एक डीप लर्निंग फ्रेमवर्क है जो किसी भी आकार के AI मॉडल को प्रीट्रेन और फाइनट्यून करने के लिए डिज़ाइन किया गया है, जो न्यूनतम कोड परिवर्तनों के साथ एकल CPU से हजारों GPU तक स्केल करता है। यह PyTorch कोड को व्यवस्थित करके वैज्ञानिक मॉडल लॉजिक को इंजीनियरिंग इंफ्रास्ट्रक्चर से अलग करता है, और बैकप्रोपेगेशन, मिश्रित परिशुद्धता, मल्टी-GPU, और वितरित प्रशिक्षण को स्वचालित करता है।
परियोजना दो मुख्य पैकेज प्रदान करती है: PyTorch Lightning, जो उच्च-स्तरीय Trainer और LightningModule एब्स्ट्रैक्शन प्रदान करता है, और Lightning Fabric, जो LLM, डिफ्यूज़न मॉडल, और ट्रांसफॉर्मर जैसे जटिल मॉडलों के लिए प्रशिक्षण लूप और स्केलिंग रणनीति पर विशेषज्ञ-स्तर नियंत्रण देता है। उपयोगकर्ता अपनी आवश्यकता के अनुसार एब्स्ट्रैक्शन का स्तर चुन सकते हैं।
मुख्य विशेषताओं में CPU, GPU, TPU, और मल्टी-नोड सेटअप में हार्डवेयर-अज्ञेय प्रशिक्षण शामिल है; DDP, FSDP, और DeepSpeed जैसी वितरित रणनीतियों के लिए समर्थन; मिश्रित परिशुद्धता; प्रयोग लॉगिंग एकीकरण; अर्ली स्टॉपिंग; चेकपॉइंटिंग; और TorchScript या ONNX में निर्यात। README शुद्ध PyTorch की तुलना में न्यूनतम रनिंग स्पीड ओवरहेड नोट करता है।
स्थापना pip या conda के माध्यम से होती है। रिपॉजिटरी में इमेज क्लासिफिकेशन, सेगमेंटेशन, ऑब्जेक्ट डिटेक्शन, टेक्स्ट क्लासिफिकेशन, समरीकरण, ऑडियो जनरेशन, LLM फाइनट्यूनिंग, इमेज जनरेशन, रिकमेंडेशन सिस्टम, और टाइम-सीरीज़ पूर्वानुमान को कवर करने वाले कई उदाहरण शामिल हैं। यह Apache 2.0 लाइसेंस के तहत है और Python और PyTorch संस्करणों, ऑपरेटिंग सिस्टम, और हार्डवेयर एक्सेलरेटर में कठोरता से परीक्षण किया गया है।
Comments
0 people shared their preference · Deer Point appears after 10 participants
Sign in to join the discussion.