Multiprocesamiento simultáneo

El procesamiento multihilo simultáneo ( SMT ) es una técnica para mejorar la eficiencia general de las CPU superescalares con procesamiento multihilo por hardware . SMT permite que múltiples hilos de ejecución independientes utilicen mejor los recursos que ofrecen las arquitecturas de procesadores modernas .

El término multihilo es ambiguo, ya que no solo se pueden ejecutar varios hilos simultáneamente en un mismo núcleo de CPU, sino también varias tareas (con tablas de páginas , segmentos de estado , anillos de protección , permisos de E/S , etc.). Aunque se ejecutan en el mismo núcleo, están completamente separadas entre sí. El multihilo es similar en concepto a la multitarea preventiva , pero se implementa a nivel de hilo en los procesadores superescalares modernos.

El multihilo simultáneo (SMT) es una de las dos implementaciones principales de multihilo, siendo la otra el multihilo temporal (también conocido como superhilo). En el multihilo temporal, solo un hilo de instrucciones puede ejecutarse en una etapa de la tubería a la vez. En el multihilo simultáneo, las instrucciones de más de un hilo pueden ejecutarse en una etapa de la tubería a la vez. Esto se logra sin grandes cambios en la arquitectura básica del procesador: las principales adiciones necesarias son la capacidad de obtener instrucciones de múltiples hilos en un ciclo y un archivo de registros más grande para almacenar datos de múltiples hilos. El número de hilos concurrentes lo deciden los diseñadores del chip. Dos hilos concurrentes por núcleo de CPU son comunes, pero algunos procesadores admiten muchos más. ^{[ 1 ]}

Debido a que inevitablemente aumenta el conflicto por los recursos compartidos, medir o consensuar su efectividad puede ser difícil. Sin embargo, la eficiencia energética medida de SMT con cargas de trabajo nativas y gestionadas paralelas en implementaciones históricas de Intel SMT ( hiper-hilo  ) de 130 nm a 32 nm reveló que, en implementaciones de 45 nm y 32 nm, SMT es extremadamente eficiente energéticamente, incluso con procesadores Atom de ejecución en orden. ^{[ 2 ]} En los sistemas modernos, SMT aprovecha eficazmente la concurrencia con muy poca potencia dinámica adicional. Es decir, incluso cuando las ganancias de rendimiento son mínimas, el ahorro en el consumo de energía puede ser considerable. ^{[ 2 ]}   

Algunos investigadores incluso han demostrado que los hilos adicionales pueden utilizarse de forma proactiva para inicializar un recurso compartido , como una caché, y así mejorar el rendimiento de otro hilo. Afirman que esto demuestra que SMT no solo aumenta la eficiencia. Otros utilizan SMT para proporcionar computación redundante, con cierto nivel de detección y recuperación de errores.

Sin embargo, en la mayoría de los casos actuales, SMT consiste en ocultar los bloqueos durante actividades de alta latencia, como el acceso a la memoria, aumentando así la eficiencia y el rendimiento de los cálculos por cantidad de hardware utilizado, al hacer un mayor uso de los recursos existentes.

En el diseño de procesadores, existen dos maneras de aumentar el paralelismo en el chip con menores requisitos de recursos: una es la técnica superescalar, que intenta explotar el paralelismo a nivel de instrucción (ILP); la otra es el enfoque de multihilo, que explota el paralelismo a nivel de hilo (TLP).

Superscalar significa ejecutar múltiples instrucciones al mismo tiempo, mientras que el paralelismo a nivel de hilo (TLP) ejecuta instrucciones de múltiples hilos dentro de un mismo chip de procesador al mismo tiempo. Existen muchas maneras de admitir más de un hilo dentro de un chip, a saber:

• Multihilo entrelazado: Emisión entrelazada de múltiples instrucciones desde diferentes hilos, también conocido como multihilo temporal . Se puede subdividir en multihilo de grano fino o de grano grueso, según la frecuencia de las emisiones entrelazadas. El multihilo de grano fino , como en un procesador de barril , emite instrucciones para diferentes hilos después de cada ciclo, mientras que el multihilo de grano grueso solo cambia para emitir instrucciones desde otro hilo cuando el hilo actual en ejecución causa eventos de larga latencia (como fallos de página, etc.). El multihilo de grano grueso es más común para un menor cambio de contexto entre hilos. Por ejemplo, el procesador Montecito de Intel utiliza multihilo de grano grueso, mientras que el UltraSPARC T1 de Sun utiliza multihilo de grano fino. Para aquellos procesadores que tienen solo una tubería por núcleo, el multihilo entrelazado es la única opción posible, ya que puede emitir como máximo una instrucción por ciclo.
• Multiprocesamiento simultáneo (SMT): Permite emitir múltiples instrucciones desde múltiples subprocesos en un solo ciclo. Para ello, el procesador debe ser superescalar.
• Multiprocesamiento a nivel de chip (CMP o multinúcleo ): integra dos o más procesadores en un solo chip, cada uno de los cuales ejecuta hilos de forma independiente.
• Cualquier combinación de multihilo/SMT/CMP.

La clave para distinguirlos reside en la cantidad de instrucciones que el procesador puede emitir en un ciclo y en la cantidad de subprocesos de los que provienen dichas instrucciones. Por ejemplo, el UltraSPARC T1 de Sun Microsystems es un procesador multinúcleo que utiliza una técnica de multihilo de grano fino en lugar de multihilo simultáneo, ya que cada núcleo solo puede emitir una instrucción a la vez.

Aunque las CPU multihilo existen desde la década de 1950, la multihilo simultánea fue investigada por primera vez por IBM en 1968 como parte del proyecto ACS-360 . ^{[ 3 ]} El primer microprocesador comercial importante desarrollado con SMT fue el Alpha 21464 (EV8). Este microprocesador fue desarrollado por DEC en coordinación con Dean Tullsen de la Universidad de California, San Diego, y Susan Eggers y Henry Levy de la Universidad de Washington. El microprocesador nunca se lanzó, ya que la línea de microprocesadores Alpha se descontinuó poco antes de que HP adquiriera Compaq , que a su vez había adquirido DEC . El trabajo de Dean Tullsen también se utilizó para desarrollar las versiones con hyper-threading de los microprocesadores Intel Pentium  4, como el "Northwood" y el "Prescott".

SMT introduce el uso compartido de recursos. Algunos esquemas de compartición (por ejemplo, la división estática) no permiten que un hilo tome más de un recurso incluso cuando otro hilo no lo está utilizando, lo que crea un posible cuello de botella en el rendimiento en comparación con el caso sin SMT. ^{[ 16 ]} También existe un posible problema de equidad. Las implementaciones más recientes de SMT intentan minimizar la aparición de estos problemas con una combinación de particionamiento estático, compartición competitiva y compartición competitiva con marca de agua, siendo esta última una combinación de ambas. ^{[ 17 ]}

Los críticos argumentan que supone una carga considerable para los desarrolladores de software tener que probar si el multihilo simultáneo es bueno o malo para su aplicación en diversas situaciones e insertar lógica adicional para desactivarlo si disminuye el rendimiento. Los sistemas operativos de 2009 carecen de llamadas API convenientes para este propósito y para evitar que los procesos con diferente prioridad se quiten recursos entre sí. ^{[ 18 ]} Existe una biblioteca hwloc multiplataforma para detectar la presencia de configuraciones SMT y NUMA , las cuales a menudo requieren la consideración del programador. Prime95 es un programa que utiliza hwloc: por defecto, utiliza los hilos SMT adicionales al realizar la división de prueba de enteros, pero solo utiliza un hilo por núcleo para sus operaciones habituales con gran cantidad de coma flotante. ^{[ 19 ]}

• Explorador de hardware
• Multihilo especulativo
• Multiprocesamiento simétrico

General

• Artículos de noticias y trabajos académicos de SMT
• Investigación sobre SMT en la Universidad de Washington
• Smotherman, Mark (noviembre de 2007). "Cronología de las tecnologías de multihilo" . Escuela de Informática, Universidad de Clemson.