منصوبے کے بارے میں

OpenVINO™ ایک اوپن سورس سافٹ ویئر ٹول کٹ ہے جو AI انفرنس کے لیے ڈیپ لرننگ ماڈلز کو بہتر بنانے اور تعینات کرنے کے لیے ڈیزائن کی گئی ہے۔ یہ کمپیوٹر وژن، خودکار تقریر کی شناخت، جنریٹو AI اور قدرتی زبان کی پروسیسنگ کے کاموں میں کارکردگی بڑھاتی ہے۔ یہ ٹول کٹ PyTorch، TensorFlow، ONNX، Keras، PaddlePaddle اور JAX/Flax جیسے مقبول فریم ورکس کے ساتھ تربیت یافتہ ماڈلز کی معاونت کرتی ہے، اور Optimum Intel کے ذریعے Hugging Face کے ساتھ مربوط ہوتی ہے۔ یہ ایج سے کلاؤڈ تک پلیٹ فارمز کی وسیع رینج پر چلتی ہے، بشمول CPU (x86، ARM)، GPU (Intel integrated اور discrete) اور Intel NPU ایکسیلیریٹرز۔ OpenVINO C++، Python، C اور NodeJS میں APIs فراہم کرتی ہے، نیز بہتر ماڈل پائپ لائنز کے لیے ایک GenAI API بھی۔ انسٹالیشن pip، conda، npm اور Homebrew کے ذریعے دستیاب ہے۔ ریپوزٹری میں کوئیک اسٹارٹ، LLM سے چلنے والے چیٹ بوٹس، YOLO آپٹیمائزیشن، ٹیکسٹ ٹو امیج جنریشن، ملٹی موڈل اسسٹنٹس اور تقریر کی شناخت کے لیے ٹیوٹوریلز، نوٹ بکس اور نمونے شامل ہیں۔ یہ ماڈل کمپریشن کے لیے NNCF، اسکیل ایبل سرونگ کے لیے OpenVINO Model Server جیسے ٹولز بھی پیش کرتی ہے، اور vLLM، ONNX Runtime، LangChain، LlamaIndex اور Keras 3 کے ساتھ انٹیگریشنز فراہم کرتی ہے۔ یہ پروجیکٹ Apache License 2.0 کے تحت لائسنس یافتہ ہے اور کمیونٹی شراکتوں کا خیرمقدم کرتا ہے۔