Hispanopedia Wiki
OpenVINO es un conjunto de herramientas de software de código abierto para optimizar e implementar modelos de aprendizaje profundo . Permite a los programadores desarrollar soluciones de IA escalables y eficientes con relativamente pocas líneas de código. Admite varios formatos de modelos populares [2] y categorías, como modelos de lenguaje grandes , visión artificial e IA generativa .
Desarrollado activamente por Intel , prioriza la inferencia de alto rendimiento en hardware Intel pero también admite procesadores ARM/ARM64 [2] y alienta a los colaboradores a agregar nuevos dispositivos al portafolio.
Basado en C++, ofrece las siguientes API: C/C++, Python y Node.js (una vista previa preliminar).
OpenVINO es multiplataforma y de uso gratuito bajo la licencia Apache 2.0. [3]
Flujo de trabajo
El uso más simple de OpenVINO implica obtener un modelo y ejecutarlo tal como está. Sin embargo, para obtener los mejores resultados, se sugiere un flujo de trabajo más completo: [4]
- obtener un modelo en uno de los marcos compatibles,
- convertir el modelo a OpenVINO IR utilizando la herramienta OpenVINO Converter,
- optimizar el modelo, utilizando las opciones de tiempo de entrenamiento o de post-entrenamiento proporcionadas por NNCF de OpenVINO.
- ejecutar la inferencia, utilizando OpenVINO Runtime, especificando uno de varios modos de inferencia.
Formato del modelo OpenVINO
OpenVINO IR [5] es el formato predeterminado que se utiliza para ejecutar la inferencia. Se guarda como un conjunto de dos archivos, * .bin y * .xml , que contienen pesos y topología, respectivamente. Se obtiene convirtiendo un modelo de uno de los marcos compatibles, utilizando la API de la aplicación o un convertidor dedicado.
Los modelos de los formatos admitidos también se pueden utilizar para la inferencia directamente, sin conversión previa a OpenVINO IR. Este enfoque es más conveniente pero ofrece menos opciones de optimización y menor rendimiento, ya que la conversión se realiza automáticamente antes de la inferencia. Algunos modelos preconvertidos se pueden encontrar en el repositorio Hugging Face . [6]
Los formatos de modelo admitidos son: [7]
- PyTorch
- Flujo tensorial
- TensorFlow Lite
- ONNX (incluidos los formatos que pueden serializarse en ONNX)
- RemoRemo
Compatibilidad con sistemas operativos
OpenVINO funciona en Windows , Linux y MacOS . [8]
Véase también
Referencias
- ^ "Notas de la versión para la distribución Intel del kit de herramientas OpenVINO 2024.4". Septiembre de 2024.
- ^ ab "Compatibilidad y soporte de OpenVINO". Documentación de OpenVINO . 24 de enero de 2024.
- ^ "Licencia". Repositorio OpenVINO . 16 de octubre de 2018.
- ^ "Flujo de trabajo de OpenVINO". Documentación de OpenVINO . 25 de abril de 2024.
- ^ "OpenVINO IR". www.docs.openvino.ai . 2 de febrero de 2024.
- ^ "Cara abrazada OpenVINO Space". Cara abrazada .
- ^ "Preparación del modelo OpenVINO". Documentación de OpenVINO . 24 de enero de 2024.
- ^ "Requisitos del sistema". Documentación de OpenVINO . Febrero de 2024.
- Agrawal, Vasu (2019). Diseño desde cero de un sistema de detección de objetos multimodal (PDF) (MSc). Universidad Carnegie Mellon, Pittsburgh, PA. Archivado (PDF) del original el 26 de enero de 2020.
- Driaba, Alexander; Gordeev, Aleksei; Klyachin, Vladimir (2019). "Reconocimiento de varios objetos de un determinado conjunto categórico en tiempo real utilizando redes neuronales convolucionales profundas" (PDF) . Instituto de Matemáticas y Tecnologías de la Información de la Universidad Estatal de Volgogrado. Archivado (PDF) del original el 26 de enero de 2020 . Consultado el 26 de enero de 2020 .
{{cite journal}}: Requiere citar revista|journal=( ayuda ) - Nanjappa, Ashwin (31 de mayo de 2019). Guía de inicio rápido de Caffe2: aprendizaje profundo modular y escalable simplificado . Packt. pp. 91–98. ISBN 978-1789137750.
