このプロジェクトについて

OpenVINO™は、AI推論向けにディープラーニングモデルを最適化および展開するために設計されたオープンソースソフトウェアツールキットです。コンピュータビジョン、自動音声認識、生成AI、自然言語処理タスクのパフォーマンスを向上させます。このツールキットは、PyTorch、TensorFlow、ONNX、Keras、PaddlePaddle、JAX/Flaxなどの一般的なフレームワークでトレーニングされたモデルをサポートし、Optimum Intelを介してHugging Faceと統合します。CPU（x86、ARM）、GPU（Intel統合およびディスクリート）、Intel NPUアクセラレータなど、エッジからクラウドまでの幅広いプラットフォームで動作します。OpenVINOはC++、Python、C、NodeJSのAPIに加え、最適化されたモデルパイプライン用のGenAI APIを提供します。インストールはpip、conda、npm、Homebrewで利用できます。リポジトリには、クイックスタート、LLM搭載チャットボット、YOLO最適化、テキストから画像生成、マルチモーダルアシスタント、音声認識のチュートリアル、ノートブック、サンプルが含まれています。また、モデル圧縮用のNNCF、スケーラブルなサービング用のOpenVINO Model Server、vLLM、ONNX Runtime、LangChain、LlamaIndex、Keras 3との統合などのツールも提供します。このプロジェクトはApache License 2.0の下でライセンスされ、コミュニティからの貢献を歓迎します。