Modelo de línea de techo

El modelo de línea de techo es un modelo de rendimiento visual intuitivo que se utiliza para proporcionar estimaciones de rendimiento de un núcleo de cómputo o una aplicación determinados que se ejecutan en arquitecturas de procesadores de múltiples núcleos , de muchos núcleos o aceleradores , mostrando las limitaciones inherentes del hardware y los posibles beneficios y prioridades de las optimizaciones . Al combinar la localidad , el ancho de banda y diferentes paradigmas de paralelización en una única cifra de rendimiento, el modelo puede ser una alternativa eficaz para evaluar la calidad del rendimiento alcanzado en lugar de utilizar simples estimaciones de porcentaje de pico, ya que proporciona información sobre la implementación y las limitaciones inherentes del rendimiento.

El modelo de línea de techo más básico se puede visualizar trazando el rendimiento de punto flotante como una función del rendimiento máximo de la máquina ^{[ vago ] [ aclaración necesaria ]} , el ancho de banda máximo de la máquina y la intensidad aritmética. La curva resultante es efectivamente un límite de rendimiento por debajo del cual existe el rendimiento del núcleo o de la aplicación, e incluye dos techos de rendimiento específicos de la plataforma ^{[ aclaración necesaria ]} : un techo derivado del ancho de banda de la memoria y uno derivado del rendimiento máximo del procesador (ver figura a la derecha).

La métrica denota el número de operaciones realizadas por un núcleo o aplicación determinados. ^[1] Esta métrica puede referirse a cualquier tipo de operación, desde el número de puntos de matriz actualizados, hasta el número de operaciones con números enteros , pasando por el número de operaciones de punto flotante (FLOPs), ^[2] y la elección de una u otra depende de la conveniencia. En la mayoría de los casos, sin embargo, se expresa como FLOPs . ^{[1] [3] [4] [5] [6]}${\estilo de visualización W}$${\estilo de visualización W}$

Tenga en cuenta que el trabajo es una propiedad del núcleo o la aplicación dados y, por lo tanto, depende solo parcialmente de las características de la plataforma. ${\estilo de visualización W}$

El tráfico de memoria denota la cantidad de bytes de transferencias de memoria incurridas durante la ejecución del núcleo o la aplicación. ^[1] A diferencia de , depende en gran medida de las propiedades de la plataforma elegida, como por ejemplo la estructura de la jerarquía de caché . ^[1]${\estilo de visualización Q}$${\estilo de visualización W}$${\estilo de visualización Q}$

La intensidad aritmética , también denominada intensidad operacional , ^{[3] [7]} es la relación entre el trabajo y el tráfico de memoria : ^[1] y denota el número de operaciones por byte de tráfico de memoria. Cuando el trabajo se expresa en FLOP , la intensidad aritmética resultante será la relación entre las operaciones de punto flotante y el movimiento total de datos ( FLOP/byte ). ${\displaystyle I}$${\estilo de visualización W}$${\estilo de visualización Q}$$${\displaystyle I={W sobre Q}}$$${\estilo de visualización W}$${\displaystyle I}$

La línea de techo ingenua ^[3] se obtiene aplicando un análisis simple de límites y cuellos de botella. ^[8] En esta formulación del modelo de línea de techo, solo hay dos parámetros, el rendimiento máximo y el ancho de banda máximo de la arquitectura específica , y una variable, la intensidad aritmética . El rendimiento máximo, expresado en general como GFLOPS , se puede derivar habitualmente de la evaluación comparativa , mientras que el ancho de banda máximo, que hace referencia al ancho de banda máximo de DRAM para ser específico, se obtiene a través de manuales de arquitectura. ^{[1] [3]} El gráfico resultante, en general con ambos ejes en escala logarítmica , se deriva entonces mediante la siguiente fórmula: ^[1] donde es el rendimiento alcanzable, es el rendimiento máximo , es el ancho de banda máximo y es la intensidad aritmética. El punto en el que el rendimiento se satura en el nivel de rendimiento máximo , que es donde se encuentran el techo diagonal y horizontal, se define como punto de cresta. ^[4] El punto de cresta ofrece información sobre el rendimiento general de la máquina, al proporcionar la intensidad aritmética mínima requerida para poder lograr el máximo rendimiento y al sugerir de un vistazo la cantidad de esfuerzo requerido por el programador para lograr el máximo rendimiento. ^[4]$${\displaystyle P=\min {\begin{casos}\pi \\\beta \times I\end{casos}}}$$${\estilo de visualización P}$ ${\estilo de visualización \pi}$${\estilo de visualización \beta}$${\displaystyle I}$${\estilo de visualización \pi}$

Un núcleo o aplicación determinados se caracterizan entonces por un punto dado por su intensidad aritmética (en el eje x). El rendimiento alcanzable se calcula entonces trazando una línea vertical que llega a la curva de la línea del techo. Por lo tanto, se dice que el núcleo o la aplicación están limitados por la memoria si . Por el contrario, si , se dice que el cálculo está limitado por el cálculo . ^[1]${\displaystyle I}$${\estilo de visualización P}$${\displaystyle I\leq \pi /\beta }$${\displaystyle I\geq \pi /\beta }$

La línea de techo ingenua proporciona sólo un límite superior (el máximo teórico) para el rendimiento . Aunque todavía puede dar información útil sobre el rendimiento alcanzable, no proporciona una imagen completa de lo que realmente lo limita. Si, por ejemplo, el núcleo o la aplicación considerados funcionan muy por debajo de la línea de techo, puede ser útil capturar otros techos de rendimiento, además del simple ancho de banda máximo y el rendimiento, para guiar mejor al programador sobre qué optimización implementar, o incluso para evaluar la idoneidad de la arquitectura utilizada con respecto al núcleo o la aplicación analizados. ^[3] Los techos agregados imponen entonces un límite al rendimiento alcanzable que está por debajo de la línea de techo real e indican que el núcleo o la aplicación no pueden superar ninguno de estos techos sin realizar primero la optimización asociada. ^{[3] [4]}

El gráfico de la línea del tejado se puede ampliar en tres aspectos diferentes: comunicación , añadiendo los límites de ancho de banda ; computación , añadiendo los denominados límites en el núcleo ; y localidad , añadiendo los muros de localidad .

• 
  Un ejemplo de un modelo de línea de techo con límites de ancho de banda adicionales . En este modelo, los dos límites adicionales representan la ausencia de precarga de software y la organización NUMA de la memoria .
• 
  Un ejemplo de modelo de línea de techo con techos agregados en el núcleo , donde los dos techos agregados representan la falta de paralelismo a nivel de instrucción y de paralelismo a nivel de tarea .
• 
  Un ejemplo de modelo de línea de techo con muros de localidad . El muro etiquetado como 3 C denota la presencia de los tres tipos de errores de caché : errores obligatorios, de capacidad y de conflicto. El muro etiquetado como 2 C representa la presencia de errores obligatorios y de capacidad u obligatorios y de conflicto. El último muro denota la presencia de solo errores obligatorios.

Los límites de ancho de banda son diagonales de ancho de banda ubicadas debajo de la diagonal de ancho de banda pico idealizada. Su existencia se debe a la falta de algún tipo de optimización arquitectónica relacionada con la memoria, como la coherencia de caché , o la optimización del software, como la exposición deficiente de la concurrencia (que a su vez limita el uso del ancho de banda). ^{[3] [4]}

Los techos internos son curvas similares a las líneas del techo debajo de la línea del techo real que pueden estar presentes debido a la falta de alguna forma de paralelismo . Estos techos limitan efectivamente el alto rendimiento que se puede alcanzar. El rendimiento no puede superar un techo interno hasta que se exprese y explote la falta subyacente de paralelismo. Los techos también se pueden derivar de manuales de optimización arquitectónica distintos de los puntos de referencia. ^{[3] [4]}

Si se elimina la suposición ideal de que la intensidad aritmética es únicamente una función del núcleo y se tiene en cuenta la topología de la caché (y, por lo tanto, los errores de caché ), la intensidad aritmética claramente pasa a depender de una combinación de núcleo y arquitectura. Esto puede dar como resultado una degradación del rendimiento en función del equilibrio entre la intensidad aritmética resultante y el punto de cresta . A diferencia de los techos "adecuados", las líneas resultantes en el gráfico de la línea del tejado son barreras verticales a través de las cuales la intensidad aritmética no puede pasar sin optimización. Por este motivo, se las denomina muros de localidad o muros de intensidad aritmética . ^{[3] [4]}

Desde su introducción, ^{[3] [4]} el modelo se ha ampliado aún más para tener en cuenta un conjunto más amplio de métricas y cuellos de botella relacionados con el hardware. Ya están disponibles en la literatura extensiones que tienen en cuenta el impacto de la organización NUMA de la memoria , ^[6] de la ejecución fuera de orden , ^[9] de las latencias de la memoria , ^{[9] [10]} y para modelar con mayor precisión la jerarquía de caché ^{[5] [9]} para comprender mejor qué es lo que realmente limita el rendimiento e impulsar el proceso de optimización .

Además, el modelo se ha ampliado para adaptarse mejor a arquitecturas específicas y las características relacionadas, como los FPGA . ^[11]

• Pruebas de rendimiento de software
• Punto de referencia (informática)

• El modelo Roofline: una herramienta pedagógica para el autoajuste de núcleos en arquitecturas multinúcleo
• Aplicación del modelo Roofline
• Ampliación del modelo de la línea del tejado: análisis de cuellos de botella con restricciones microarquitectónicas
• Kit de herramientas para modelar la línea del techo
  • Kit de herramientas para modelos de líneas de techo: una herramienta práctica para el análisis arquitectónico y de programas: publicación relacionada con la herramienta.
• Diagrama de rendimiento
• Modelo de línea de techo extendida
• Intel Advisor - Automatización del modelo Roofline
• Vídeo de Youtube sobre cómo utilizar Intel Advisor Roofline