Deep Learning Boost ( DL Boost ) de Intel es un nombre comercial para las características de la arquitectura del conjunto de instrucciones (ISA) en el x86-64 diseñadas para mejorar el rendimiento en tareas de aprendizaje profundo como el entrenamiento y la inferencia. [ 1 ]
Características
DL Boost consta de dos conjuntos de funciones:
- AVX-512 VNNI , 4VNNIW o AVX-VNNI : multiplicación y acumulación rápida principalmente para redes neuronales convolucionales .
- AVX-512 BF16: números de punto flotante bfloat16 de menor precisión para un cálculo generalmente más rápido. Las operaciones proporcionadas incluyen la conversión a/desde float32 y el producto escalar .
Las funcionalidades de DL Boost se introdujeron en la arquitectura Cascade Lake .
Una prueba de rendimiento basada en TensorFlow ejecutada en Google Cloud Platform Compute Engine muestra un rendimiento mejorado y un coste reducido en comparación con las CPU y GPU anteriores, especialmente para tamaños de lote pequeños. [ 2 ]
Notas
Enlaces externos
- Impulso al aprendizaje profundo en Intel
- Andrés Rodrigues y otros, "Inferencia y entrenamiento de aprendizaje profundo con menor precisión numérica", documento técnico de Intel
- Intel y el aprendizaje automático (2017), de la División de Relaciones con Desarrolladores de Intel.
- computación SIMD
- Aprendizaje profundo
- Arquitectura X86