منصوبے کے بارے میں
ONNX Runtime ایک کراس پلیٹ فارم مشین لرننگ ایکسلریٹر ہے جسے انفرنس اور ٹریننگ دونوں کے لیے ڈیزائن کیا گیا ہے۔
اہم صلاحیتوں میں شامل ہیں:
- انفرنس ایکسلریشن: یہ PyTorch اور TensorFlow/Keras جیسے ڈیپ لرننگ فریم ورکس، اور scikit-learn، LightGBM، اور XGBoost جیسی کلاسیکل ML لائبریریز کے ماڈلز کو سپورٹ کرتا ہے۔ یہ مختلف آپریٹنگ سسٹمز اور ڈرائیورز پر گراف ٹرانسفارمیشنز اور ہارڈویئر ایکسلریٹرز کے ذریعے کارکردگی کو بہتر بناتا ہے۔
- ٹریننگ ایکسلریشن: یہ ملٹی نوڈ NVIDIA GPUs پر ٹرانسفارمر ماڈل ٹریننگ کے لیے ایکسلریشن فراہم کرتا ہے، جو موجودہ PyTorch ٹریننگ اسکرپٹس کے ساتھ مربوط ہے۔
یہ پروجیکٹ متعدد ہارڈویئر کنفیگریشنز کے ساتھ ہم آہنگ ہے اور انفرنسنگ اور ٹریننگ ورک فلو کے لیے دستاویزات، ٹیوٹوریلز اور سیمپل ریپوزٹریز کا ایک جامع سیٹ فراہم کرتا ہے۔