প্রকল্প সম্পর্কে
Apache TVM হলো একটি ওপেন মেশিন লার্নিং কম্পাইলেশন ফ্রেমওয়ার্ক যা পাইথন-ফার্স্ট ডেভেলপমেন্টের ওপর গুরুত্ব দেয়, যাতে কম্পাইলার পাইপলাইনগুলো দ্রুত কাস্টমাইজ করা যায়। এর লক্ষ্য হলো মডেলগুলোকে ন্যূনতম ডেপ্লয়যোগ্য মডিউলে রূপান্তর করার মাধ্যমে ইউনিভার্সাল ডেপ্লয়মেন্ট প্রদান করা।
এর বর্তমান আর্কিটেকচারে একটি ক্রস-লেভেল ডিজাইন ব্যবহার করা হয়েছে, যেখানে টেনসর-লেভেল রিপ্রেজেন্টেশনের জন্য TensorIR এবং গ্রাফ-লেভেল রিপ্রেজেন্টেশনের জন্য Relax ব্যবহৃত হয়। এই ডিজাইনটি কম্পিউটেশনাল গ্রাফ, টেনসর প্রোগ্রাম এবং লাইব্রেরিগুলোর যৌথ অপ্টিমাইজেশনের সুযোগ করে দেয়। এছাড়া, TVM ডোমেইন-স্পেসিফিক ভার্টিকাল কম্পাইলার তৈরির জন্য একটি মৌলিক অবকাঠামো হিসেবে কাজ করে, যার মধ্যে Large Language Models (LLMs)-এর জন্য তৈরি কম্পাইলারগুলোও অন্তর্ভুক্ত।