tvm

Apache TVM एक ओपन मशीन लर्निंग कंपाइलेशन फ्रेमवर्क है जो Python-first डेवलपमेंट पर केंद्रित है ताकि कंपाइलर पाइपलाइन्स का त्वरित कस्टमाइज़ेशन किया जा सके। इसका लक्ष्य मॉडल्स को न्यूनतम डिप्लॉयमेंट योग्य मॉड्यूल्स में परिवर्तित करके यूनिवर्सल डिप्लॉयमेंट प्रदान करना है। वर्तमान आर्किटेक्चर में एक क्रॉस-लेवल डिज़ाइन का उपयोग किया गया है जिसमें टेंसर-लेवल रिप्रेजेंटेशन के लिए TensorIR और ग्राफ-लेवल रिप्रेजेंटेशन के लिए Relax शामिल है। यह डिज़ाइन कंप्यूटेशनल ग्राफ, टेंसर प्रोग्राम और लाइब्रेरीज़ के संयुक्त अनुकूलन (joint optimization) की अनुमति देता है। इसके अतिरिक्त, TVM डोमेन-स्पेसिफिक वर्टिकल कंपाइलर्स बनाने के लिए बुनियादी इंफ्रास्ट्रक्चर के रूप में कार्य करता है, जिसमें Large Language Models (LLMs) के लिए कंपाइलर्स भी शामिल हैं।