প্রকল্প সম্পর্কে
ONNX Runtime হলো একটি ক্রস-প্ল্যাটফর্ম মেশিন-লার্নিং এক্সিলারেটর যা ইনফারেন্স এবং ট্রেনিং উভয়ের জন্যই ডিজাইন করা হয়েছে।
এর মূল সক্ষমতাগুলোর মধ্যে রয়েছে:
- ইনফারেন্স এক্সিলারেটর: এটি PyTorch এবং TensorFlow/Keras-এর মতো ডিপ লার্নিং ফ্রেমওয়ার্কের পাশাপাশি scikit-learn, LightGBM এবং XGBoost-এর মতো ক্লাসিক্যাল ML লাইব্রেরির মডেল সমর্থন করে। এটি বিভিন্ন অপারেটিং সিস্টেম এবং ড্রাইভার জুড়ে গ্রাফ ট্রান্সফরমেশন এবং হার্ডওয়্যার এক্সিলারেটরের মাধ্যমে পারফরম্যান্স অপ্টিমাইজ করে।
- ট্রেনিং এক্সিলারেটর: এটি মাল্টি-নোড NVIDIA GPU-তে ট্রান্সফর্মার মডেল ট্রেনিংয়ের জন্য এক্সিলারেটর প্রদান করে, যা বিদ্যমান PyTorch ট্রেনিং স্ক্রিপ্টের সাথে ইন্টিগ্রেট করা যায়।
এই প্রজেক্টটি একাধিক হার্ডওয়্যার কনফিগারেশনের সাথে সামঞ্জস্যপূর্ণ এবং ইনফারেন্সিং ও ট্রেনিং উভয় ওয়ার্কফ্লোর জন্য ডকুমেন্টেশন, টিউটোরিয়াল এবং স্যাম্পল রিপোজিটরির একটি বিস্তৃত সেট প্রদান করে।