SXM (zócalo)

SXM (Server PCI Express Module) ^{[ 1 ]} es una solución de zócalo de alto ancho de banda para conectar aceleradores de computación Nvidia a un sistema. Cada generación de Nvidia Tesla desde los modelos P100, la serie de computadoras DGX y la serie de placas HGX vienen con un tipo de zócalo SXM que proporciona alto ancho de banda y suministro de energía para las tarjetas hijas de GPU. ^{[ 2 ]} Nvidia ofrece estas combinaciones como un producto para el usuario final, por ejemplo, en sus modelos de la serie de sistemas DGX. Las generaciones de zócalos actuales son SXM para GPU basadas en Pascal , SXM2 y SXM3 para GPU basadas en Volta , SXM4 para GPU basadas en Ampere y SXM5 para GPU basadas en Hopper . Estos zócalos se utilizan para modelos específicos de estos aceleradores y ofrecen un rendimiento por tarjeta superior al de los equivalentes PCIe . ^{[ 2 ]} El sistema DGX-1 fue el primero en estar equipado con zócalos SXM-2 y, por lo tanto, fue el primero en llevar módulos SXM compatibles con el factor de forma con GPU P100 y posteriormente se reveló que era capaz de permitir la actualización a (o estar preequipado con) módulos SXM2 con GPU V100. ^{[ 3 ] [ 4 ]}

Las placas SXM suelen estar construidas con cuatro u ocho ranuras para GPU, aunque algunas soluciones, como la Nvidia DGX-2, conectan varias placas para ofrecer un alto rendimiento. Si bien existen soluciones de terceros para placas SXM, la mayoría de los integradores de sistemas , como Supermicro, utilizan placas Nvidia HGX prefabricadas, que vienen en configuraciones de cuatro u ocho zócalos. ^{[ 5 ]} Esta solución reduce considerablemente el costo y la complejidad de los servidores GPU basados ​​en SXM, y permite la compatibilidad y la fiabilidad entre todas las placas de la misma generación.

Los módulos SXM en las placas HGX, especialmente las de generaciones recientes, pueden tener conmutadores NVLink para permitir una comunicación más rápida entre GPU. Esto reduce aún más los cuellos de botella que normalmente impondrían las limitaciones de la CPU y PCIe . ^{[ 2 ] [ 6 ]} Las GPU en las tarjetas hijas usan NVLink como su protocolo de comunicación principal. Por ejemplo, una GPU basada en Hopper H100 SXM5 puede usar hasta 900  GB/s de ancho de banda a través de 18 canales NVLink 4, cada uno de los cuales contribuye con 50  GB/s de ancho de banda; ^{[ 7 ]} En contraste, PCIe 5.0 puede manejar hasta 64  GB/s de ancho de banda dentro de una ranura x16. ^{[ 8 ]} Este alto ancho de banda también significa que las GPU pueden compartir memoria a través del bus NVLink, lo que permite que una placa HGX completa se presente al sistema host como una única GPU masiva. ^{[ 9 ]}

La alimentación también se gestiona mediante el zócalo SXM, eliminando la necesidad de cables de alimentación externos como los que se requieren en tarjetas PCIe equivalentes. Esto, combinado con el montaje horizontal, permite mecanismos de refrigeración más eficientes, lo que a su vez permite que las GPU basadas en SXM operen con una potencia de diseño térmico (TDP) mucho mayor. La H100 basada en Hopper, por ejemplo, puede consumir hasta 700  W únicamente del zócalo SXM. ^{[ 10 ]} La ausencia de cableado también facilita enormemente el montaje y la reparación de sistemas grandes, y reduce el número de posibles puntos de fallo. ^{[ 2 ]}

Comenzando desde P100, ^{[ 11 ] [ 12 ] [ 13 ]} hasta V100, ^{[ 14 ]} hasta A100, ^{[ 15 ]} hasta H100, ^{[ 16 ]} hasta B200 ^{[ 17 ] [ 18 ]} y hasta R100; ^{[ 19 ]} la comparación de aceleradores utilizados en DGX:

• Tegra – Sistema en un chip de Nvidia 

• Página del Centro Nacional de Computación de Alto Rendimiento de Erlangen sobre computación de alto rendimiento con 4 y 8 procesadores A100 por nodo de computadora , que también muestra volcados de topología de conmutadores.