প্রকল্প সম্পর্কে

OpenVINO™ হলো একটি ওপেন-সোর্স সফটওয়্যার টুলকিট, যা AI ইনফারেন্সের জন্য ডিপ লার্নিং মডেল অপ্টিমাইজ ও ডিপ্লয় করার জন্য ডিজাইন করা হয়েছে। এটি কম্পিউটার ভিশন, স্বয়ংক্রিয় স্পিচ রিকগনিশন, জেনারেটিভ AI এবং ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং কাজে পারফরম্যান্স বাড়ায়। টুলকিটটি PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle এবং JAX/Flax-এর মতো জনপ্রিয় ফ্রেমওয়ার্কে প্রশিক্ষিত মডেল সমর্থন করে এবং Optimum Intel-এর মাধ্যমে Hugging Face-এর সাথে ইন্টিগ্রেট করে। এটি এজ থেকে ক্লাউড পর্যন্ত বিস্তৃত প্ল্যাটফর্মে চলে, যার মধ্যে রয়েছে CPU (x86, ARM), GPU (Intel ইন্টিগ্রেটেড ও ডিসক্রিট) এবং Intel NPU অ্যাক্সিলারেটর। OpenVINO C++, Python, C এবং NodeJS-এ API প্রদান করে, সাথে অপ্টিমাইজড মডেল পাইপলাইনের জন্য একটি GenAI API। ইনস্টলেশন pip, conda, npm এবং Homebrew-এর মাধ্যমে পাওয়া যায়। রিপোজিটরিতে কুইকস্টার্ট, LLM-চালিত চ্যাটবট, YOLO অপ্টিমাইজেশন, টেক্সট-টু-ইমেজ জেনারেশন, মাল্টিমোডাল অ্যাসিস্ট্যান্ট এবং স্পিচ রিকগনিশনের জন্য টিউটোরিয়াল, নোটবুক ও স্যাম্পল রয়েছে। এটি মডেল কম্প্রেশনের জন্য NNCF, স্কেলেবল সার্ভিংয়ের জন্য OpenVINO Model Server-এর মতো টুলও অফার করে এবং vLLM, ONNX Runtime, LangChain, LlamaIndex ও Keras 3-এর সাথে ইন্টিগ্রেশন প্রদান করে। প্রকল্পটি Apache License 2.0-এর অধীনে লাইসেন্সপ্রাপ্ত এবং কমিউনিটি অবদানকে স্বাগত জানায়।