Kepler (microarquitectura)

Kepler emplea una nueva arquitectura de multiprocesador de flujo llamada SMX. El número de núcleos de ejecución CUDA se incrementó de 32 por cada uno de los 16 SM a 192 por cada uno de los 8 SMX; el archivo de registros solo se duplicó por SMX a 65.536 x 32 bits para una relación general menor; entre esto y otras concesiones, a pesar del aumento general de 3x en los núcleos CUDA y el aumento del reloj (en el 680 frente al Fermi 580), las ganancias de rendimiento reales en la mayoría de las operaciones fueron muy inferiores a 3x. Se utilizan núcleos CUDA FP64 dedicados en lugar de tratar dos núcleos FP32 como una sola unidad como se hacía anteriormente, y se incluyeron muy pocos en los modelos de consumo, lo que resultó en una velocidad de cálculo FP64 de 1/24 en comparación con FP32. ^{[ 9 ]}

En los modelos HPC, el GK110/210, el número de SMX se incrementó a 13-15 según el producto, y se incluyeron más núcleos FP64 para elevar la relación de cómputo a 1/3 de FP32. En el GK110, el límite de registros por hilo se cuadruplicó con respecto a Fermi a 255, pero esto aún permite que solo un hilo que utilice la mitad de los registros se paralelice a 1/4 de cada SMX. El GK210 (lanzado al mismo tiempo) aumentó el límite de registros a 512 para mejorar el rendimiento en situaciones de alta presión de registros como esta. La caché de texturas, que los programadores ya habían estado utilizando para el cómputo como un búfer de solo lectura en generaciones anteriores, se incrementó en tamaño y la ruta de datos se optimizó para un rendimiento más rápido al utilizar este método. Todos los niveles de memoria, incluido el archivo de registros, también son ECC de un bit.

Otra característica destacable es que, mientras que las GPU Fermi solo podían ser accedidas por un hilo de CPU a la vez, las GPU Kepler de HPC añadieron soporte para multihilo, de modo que los procesadores con un alto número de núcleos podían abrir 32 conexiones y saturar más fácilmente la capacidad de cómputo. ^{[ 10 ]}

Se logró una reducción adicional del espacio del chip y un ahorro de energía al eliminar un bloque de hardware complejo que se encargaba de la prevención de riesgos de datos. ^{[ 3 ] [ 5 ] [ 11 ] [ 12 ]}

GPU Boost es una nueva función que es aproximadamente análoga al turbo boosting de una CPU. La GPU siempre tiene garantizada una velocidad de reloj mínima, denominada "velocidad de reloj base". Esta velocidad de reloj se establece al nivel que asegurará que la GPU se mantenga dentro de las especificaciones TDP , incluso con cargas máximas. ^{[ 3 ]} Sin embargo, cuando las cargas son menores, hay margen para aumentar la velocidad de reloj sin exceder el TDP. En estos escenarios, GPU Boost aumentará gradualmente la velocidad de reloj en pasos, hasta que la GPU alcance un objetivo de potencia predefinido de 170 W por defecto (en la tarjeta 680). ^{[ 5 ]} Al adoptar este enfoque, la GPU aumentará o disminuirá su reloj dinámicamente, de modo que proporcione la cantidad máxima de velocidad posible sin exceder las especificaciones TDP.

El objetivo de potencia, así como el tamaño de los pasos de aumento de reloj que tomará la GPU, son ajustables a través de utilidades de terceros y proporcionan un medio para hacer overclocking a las tarjetas basadas en Kepler. ^{[ 3 ]}

Las GPU Nvidia Fermi y Kepler de la serie GeForce 600 son compatibles con la especificación Direct3D 11.0. Nvidia declaró originalmente que la arquitectura Kepler tiene compatibilidad total con DirectX 11.1, lo que incluye la ruta Direct3D 11.1. ^{[ 13 ]} Sin embargo, las siguientes características de Direct3D 11.1 de la "Interfaz de usuario moderna" no son compatibles: ^{[ 14 ] [ 15 ]}

• Rasterización independiente del objetivo (solo renderizado 2D).
• Rasterización 16xMSAA (solo renderizado 2D).
• Modo de renderizado de línea ortogonal.
• UAV (Vista de Acceso No Ordenado) en etapas sin sombreado de píxeles.

Según la definición de Microsoft, el nivel de características Direct3D 11_1 debe estar completo; de lo contrario, no se puede ejecutar la ruta Direct3D 11.1. ^{[ 16 ]} Las características Direct3D integradas de la arquitectura Kepler son las mismas que las de la arquitectura Fermi de la serie GeForce 400. ^{[ 15 ]}

Las GPU Nvidia Kepler de la serie GeForce 600/700 son compatibles con el nivel de características 11_0 de Direct3D 12. ^{[ 17 ]}

Exclusivo de las GPU Kepler, TXAA es un nuevo método de suavizado de bordes de Nvidia diseñado para su implementación directa en motores de juegos. TXAA se basa en la técnica MSAA y filtros de resolución personalizados. Está diseñado para abordar un problema clave en los juegos conocido como parpadeo o aliasing temporal . TXAA lo resuelve suavizando la escena en movimiento, asegurando que cualquier escena del juego esté libre de aliasing y parpadeo. ^{[ 3 ]}

El GK110 incorporó algunas instrucciones para mejorar aún más su rendimiento. Las nuevas instrucciones de mezcla permiten que los hilos dentro de un warp compartan datos entre sí mediante una instrucción que completa las operaciones normales de almacenamiento y carga que anteriormente requerían dos accesos a la memoria local en una sola instrucción, lo que hace que el proceso sea aproximadamente un 6 % más rápido que el uso del almacenamiento de datos local. También se mejoraron las operaciones atómicas, con un aumento de velocidad de 9 veces para algunas instrucciones y la adición de más operaciones atómicas de 64 bits, a saber, min, max, and, or y xor. ^{[ 11 ]}

Hyper-Q amplía las colas de trabajo del hardware GK110 de 1 a 32. Esto es importante porque tener una sola cola de trabajo implicaba que Fermi podía estar infrautilizado en ocasiones, ya que no había suficiente trabajo en esa cola para llenar todos los SM. Con 32 colas de trabajo, GK110 puede, en muchos escenarios, lograr una mayor utilización al poder colocar diferentes flujos de tareas en lo que de otro modo sería un SMX inactivo. La simplicidad de Hyper-Q se ve reforzada por el hecho de que se mapea fácilmente a MPI, una interfaz de paso de mensajes común utilizada frecuentemente en HPC. Los algoritmos heredados basados ​​en MPI, diseñados originalmente para sistemas multi-CPU que se veían limitados por dependencias falsas, ahora tienen una solución. Al aumentar el número de trabajos MPI, es posible utilizar Hyper-Q en estos algoritmos para mejorar la eficiencia sin modificar el código. ^{[ 11 ]}

La capacidad de paralelismo dinámico permite que los núcleos puedan despachar otros núcleos. Con Fermi, solo la CPU podía despachar un núcleo, lo que generaba cierta sobrecarga al tener que comunicarse con la CPU. Al otorgar a los núcleos la capacidad de despachar sus propios núcleos hijos, GK110 ahorra tiempo al no tener que comunicarse con la CPU y, al mismo tiempo, libera a la CPU para que trabaje en otras tareas. ^{[ 11 ]}

La habilitación del paralelismo dinámico requiere un nuevo sistema de gestión y control de despacho de cuadrículas. La nueva Unidad de Gestión de Cuadrículas (GMU) gestiona y prioriza las cuadrículas que se ejecutarán. La GMU puede pausar el despacho de nuevas cuadrículas y poner en cola las cuadrículas pendientes y suspendidas hasta que estén listas para ejecutarse, lo que proporciona la flexibilidad necesaria para habilitar entornos de ejecución potentes, como el paralelismo dinámico. El Distribuidor de Trabajo CUDA en Kepler mantiene las cuadrículas listas para el despacho y puede despachar 32 cuadrículas activas, el doble de la capacidad del CWD de Fermi. El CWD de Kepler se comunica con la GMU mediante un enlace bidireccional que permite a la GMU pausar el despacho de nuevas cuadrículas y mantener las cuadrículas pendientes y suspendidas hasta que sean necesarias. La GMU también tiene una conexión directa con las unidades SMX de Kepler para permitir que las cuadrículas que inician trabajo adicional en la GPU mediante el paralelismo dinámico envíen el nuevo trabajo de vuelta a la GMU para su priorización y despacho. Si el kernel que despachó la carga de trabajo adicional se pausa, la GMU lo mantendrá inactivo hasta que el trabajo dependiente haya finalizado. ^{[ 12 ]}

Nvidia GPUDirect es una capacidad que permite que las GPU dentro de una misma computadora, o las GPU en diferentes servidores ubicados en una red, intercambien datos directamente sin necesidad de acceder a la CPU/memoria del sistema. La función RDMA en GPUDirect permite que dispositivos de terceros, como SSD, NIC y adaptadores IB, accedan directamente a la memoria de múltiples GPU dentro del mismo sistema, lo que reduce significativamente la latencia de los mensajes MPI de envío y recepción hacia/desde la memoria de la GPU. ^{[ 18 ]} También reduce las demandas de ancho de banda de la memoria del sistema y libera los motores DMA de la GPU para que los utilicen otras tareas CUDA. El chip Kepler GK110 también admite otras funciones de GPUDirect, incluyendo Peer-to-Peer y GPUDirect para vídeo.