openvino

OpenVINO™ es un kit de herramientas de software de código abierto diseñado para optimizar y desplegar modelos de aprendizaje profundo para inferencia de IA. Mejora el rendimiento en tareas de visión por computadora, reconocimiento automático de voz, IA generativa y procesamiento de lenguaje natural. El kit de herramientas admite modelos entrenados con frameworks populares como PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle y JAX/Flax, y se integra con Hugging Face a través de Optimum Intel. Se ejecuta en una amplia gama de plataformas desde el borde hasta la nube, incluyendo CPU (x86, ARM), GPU (Intel integrada y discreta) y aceleradores Intel NPU. OpenVINO proporciona API en C++, Python, C y NodeJS, además de una API GenAI para pipelines de modelos optimizados. La instalación está disponible a través de pip, conda, npm y Homebrew. El repositorio incluye tutoriales, notebooks y ejemplos para inicio rápido, chatbots impulsados por LLM, optimización de YOLO, generación de texto a imagen, asistentes multimodales y reconocimiento de voz. También ofrece herramientas como NNCF para compresión de modelos, OpenVINO Model Server para servicio escalable, e integraciones con vLLM, ONNX Runtime, LangChain, LlamaIndex y Keras 3. El proyecto está licenciado bajo Apache License 2.0 y da la bienvenida a contribuciones de la comunidad.