इस प्रोजेक्ट के बारे में
ONNX Runtime एक क्रॉस-प्लेटफॉर्म मशीन-लर्निंग एक्सेलेरेटर है जिसे इन्फरेंस और ट्रेनिंग दोनों के लिए डिज़ाइन किया गया है।
मुख्य क्षमताओं में शामिल हैं:
- इन्फरेंस एक्सेलेरेशन: यह PyTorch और TensorFlow/Keras जैसे डीप लर्निंग फ्रेमवर्क्स के साथ-साथ scikit-learn, LightGBM और XGBoost जैसी क्लासिकल ML लाइब्रेरीज़ के मॉडल्स को सपोर्ट करता है। यह विभिन्न ऑपरेटिंग सिस्टम और ड्राइवरों पर ग्राफ ट्रांसफॉर्मेशन और हार्डवेयर एक्सेलेरेटर्स के माध्यम से परफॉरमेंस को ऑप्टिमाइज़ करता है।
- ट्रेनिंग एक्सेलेरेशन: यह मल्टी-नोड NVIDIA GPUs पर ट्रांसफार्मर मॉडल ट्रेनिंग के लिए एक्सेलेरेशन प्रदान करता है, जो मौजूदा PyTorch ट्रेनिंग स्क्रिप्ट्स के साथ एकीकृत होता है।
यह प्रोजेक्ट कई हार्डवेयर कॉन्फ़िगरेशन के साथ संगत है और इन्फरेंसिंग और ट्रेनिंग वर्कफ़्लो दोनों के लिए दस्तावेज़ीकरण, ट्यूटोरियल और सैंपल रिपॉजिटरी का एक व्यापक सेट प्रदान करता है।