इस प्रोजेक्ट के बारे में

micrograd एक न्यूनतम स्केलर-वैल्यू ऑटोग्रेड इंजन और उसके ऊपर निर्मित एक हल्की न्यूरल नेटवर्क लाइब्रेरी प्रदान करता है। कोर `Value` एब्स्ट्रैक्शन एक गतिशील रूप से निर्मित निर्देशित चक्रीय ग्राफ में संचालन रिकॉर्ड करता है और समर्थित अंकगणितीय और सक्रियण संचालन, जिसमें जोड़, गुणा, घातांक, भाग, घटाव और ReLU शामिल हैं, के माध्यम से बैकप्रोपेगेशन का समर्थन करता है। README इंजन और न्यूरल नेटवर्क घटकों को क्रमशः लगभग 100 और 50 पंक्तियों के रूप में वर्णित करता है, जो उत्पादन-पैमाने के टेंसर प्रदर्शन पर स्पष्टता और शैक्षिक उपयोग पर जोर देता है। पैकेज को `pip install micrograd` के साथ स्थापित किया जा सकता है। उदाहरण `Value` ऑब्जेक्ट से अभिव्यक्ति बनाना, `.data` से फॉरवर्ड-पास परिणाम पढ़ना, `backward()` को कॉल करना और `.grad` के माध्यम से इनपुट ग्रेडिएंट का निरीक्षण करना दिखाता है। शामिल `micrograd.nn` मॉड्यूल PyTorch-जैसे इंटरफ़ेस के साथ न्यूरॉन, लेयर और MLP-शैली के बिल्डिंग ब्लॉक प्रदान करता है। `demo.ipynb` मून डेटासेट पर अधिकतम-मार्जिन हानि और SGD का उपयोग करके बाइनरी क्लासिफायर के रूप में दो-लेयर मल्टीलेयर परसेप्ट्रॉन को प्रशिक्षित करने का प्रदर्शन करता है। एक अन्य नोटबुक, `trace_graph.ipynb`, उनके मूल्यों और ग्रेडिएंट दोनों के साथ कम्प्यूटेशन नोड्स को विज़ुअलाइज़ करने के लिए Graphviz का उपयोग करता है। परीक्षण सूट गणना किए गए ग्रेडिएंट को सत्यापित करने के लिए संदर्भ कार्यान्वयन के रूप में PyTorch का उपयोग करता है और pytest के साथ चलाया जाता है। README एक बाहरी microgpt उदाहरण से भी लिंक करता है जो दिखाता है कि GPT-2-जैसे ट्रांसफॉर्मर को प्रशिक्षित करने और उससे नमूना लेने के लिए एक संबंधित ऑटोग्रेड दृष्टिकोण का उपयोग कैसे किया जा सकता है। परियोजना MIT लाइसेंस के तहत जारी की गई है।