इस प्रोजेक्ट के बारे में

OpenVINO™ एक ओपन-सोर्स सॉफ्टवेयर टूलकिट है जिसे AI अनुमान के लिए डीप लर्निंग मॉडल को अनुकूलित और तैनात करने के लिए डिज़ाइन किया गया है। यह कंप्यूटर विज़न, स्वचालित भाषण पहचान, जनरेटिव AI और प्राकृतिक भाषा प्रसंस्करण कार्यों में प्रदर्शन को बढ़ाता है। यह टूलकिट PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle और JAX/Flax जैसे लोकप्रिय फ्रेमवर्क के साथ प्रशिक्षित मॉडल का समर्थन करता है, और Optimum Intel के माध्यम से Hugging Face के साथ एकीकृत होता है। यह एज से क्लाउड तक कई प्लेटफार्मों पर चलता है, जिसमें CPU (x86, ARM), GPU (Intel एकीकृत और असतत), और Intel NPU एक्सेलेरेटर शामिल हैं। OpenVINO C++, Python, C और NodeJS में API प्रदान करता है, साथ ही अनुकूलित मॉडल पाइपलाइनों के लिए एक GenAI API भी प्रदान करता है। स्थापना pip, conda, npm और Homebrew के माध्यम से उपलब्ध है। रिपॉजिटरी में त्वरित शुरुआत, LLM-संचालित चैटबॉट, YOLO अनुकूलन, टेक्स्ट-टू-इमेज जनरेशन, मल्टीमॉडल सहायक और भाषण पहचान के लिए ट्यूटोरियल, नोटबुक और नमूने शामिल हैं। यह मॉडल संपीड़न के लिए NNCF, स्केलेबल सर्विंग के लिए OpenVINO मॉडल सर्वर, और vLLM, ONNX Runtime, LangChain, LlamaIndex और Keras 3 के साथ एकीकरण जैसे उपकरण भी प्रदान करता है। परियोजना Apache लाइसेंस 2.0 के तहत लाइसेंस प्राप्त है और समुदाय के योगदान का स्वागत करती है।