openvino

O OpenVINO™ é um kit de ferramentas de software de código aberto projetado para otimizar e implantar modelos de aprendizado profundo para inferência de IA. Ele melhora o desempenho em tarefas de visão computacional, reconhecimento automático de fala, IA generativa e processamento de linguagem natural. O kit de ferramentas oferece suporte a modelos treinados com frameworks populares como PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle e JAX/Flax, e integra-se ao Hugging Face por meio do Optimum Intel. Ele é executado em uma ampla variedade de plataformas, da borda à nuvem, incluindo CPU (x86, ARM), GPU (Intel integrada e discreta) e aceleradores Intel NPU. O OpenVINO fornece APIs em C++, Python, C e NodeJS, além de uma API GenAI para pipelines de modelos otimizados. A instalação está disponível via pip, conda, npm e Homebrew. O repositório inclui tutoriais, notebooks e exemplos para início rápido, chatbots com LLM, otimização do YOLO, geração de texto para imagem, assistentes multimodais e reconhecimento de fala. Ele também oferece ferramentas como o NNCF para compressão de modelos, o OpenVINO Model Server para serviço escalável e integrações com vLLM, ONNX Runtime, LangChain, LlamaIndex e Keras 3. O projeto é licenciado sob a Apache License 2.0 e recebe contribuições da comunidade.