প্রকল্প সম্পর্কে

micrograd একটি ন্যূনতম স্কেলার-মান অটোগ্র্যাড ইঞ্জিন এবং এর উপর নির্মিত একটি হালকা নিউরাল নেটওয়ার্ক লাইব্রেরি প্রদান করে। মূল `Value` অ্যাবস্ট্রাকশনটি একটি গতিশীলভাবে নির্মিত নির্দেশিত অ্যাসাইক্লিক গ্রাফে অপারেশন রেকর্ড করে এবং সমর্থিত গাণিতিক ও অ্যাক্টিভেশন অপারেশনগুলির মাধ্যমে ব্যাকপ্রোপাগেশন সমর্থন করে, যার মধ্যে যোগ, গুণ, সূচক, ভাগ, বিয়োগ এবং ReLU অন্তর্ভুক্ত। README ইঞ্জিন এবং নিউরাল নেটওয়ার্ক উপাদানগুলিকে যথাক্রমে প্রায় 100 এবং 50 লাইন হিসাবে বর্ণনা করে, উৎপাদন-স্কেল টেনসর কর্মক্ষমতার চেয়ে স্পষ্টতা এবং শিক্ষামূলক ব্যবহারের উপর জোর দেয়। প্যাকেজটি `pip install micrograd` দিয়ে ইনস্টল করা যেতে পারে। উদাহরণটি `Value` অবজেক্ট থেকে এক্সপ্রেশন নির্মাণ, `.data` থেকে ফরোয়ার্ড-পাস ফলাফল পড়া, `backward()` কল করা এবং `.grad` এর মাধ্যমে ইনপুট গ্রেডিয়েন্ট পরিদর্শন দেখায়। অন্তর্ভুক্ত `micrograd.nn` মডিউলটি একটি PyTorch-সদৃশ ইন্টারফেস সহ নিউরন, লেয়ার এবং MLP-স্টাইল বিল্ডিং ব্লক প্রদান করে। `demo.ipynb` চাঁদ ডেটাসেটে একটি দ্বি-স্তর মাল্টিলেয়ার পারসেপ্ট্রনকে বাইনারি ক্লাসিফায়ার হিসাবে প্রশিক্ষণ প্রদর্শন করে, সর্বোচ্চ-মার্জিন লস এবং SGD ব্যবহার করে। আরেকটি নোটবুক, `trace_graph.ipynb`, Graphviz ব্যবহার করে তাদের মান এবং গ্রেডিয়েন্ট উভয় সহ কম্পিউটেশন নোডগুলিকে ভিজ্যুয়ালাইজ করে। পরীক্ষা স্যুটটি রেফারেন্স বাস্তবায়ন হিসাবে PyTorch ব্যবহার করে গণনা করা গ্রেডিয়েন্ট যাচাই করে এবং pytest দিয়ে চালানো হয়। README একটি বাহ্যিক microgpt উদাহরণের সাথে লিঙ্ক করে যা দেখায় যে একটি সম্পর্কিত অটোগ্র্যাড পদ্ধতি GPT-2-সদৃশ ট্রান্সফরমারকে প্রশিক্ষণ এবং নমুনা দিতে ব্যবহার করা যেতে পারে। প্রকল্পটি MIT লাইসেন্সের অধীনে প্রকাশিত হয়েছে।