NVIDIA DGX GH200: SuperOrdenador con 256 Chips Grace Hopper y 1 Exaflop para IA 614v5i

NVIDIA NVLink. 2t3f30

Estos 256 chips trabajando juntos consiguen ofrecer 1 exaflop de potencia junto a nada más y nada menos que 144 Terabytes de memoria compartida, 500 veces más que la pasada generación NVIDIA DGX A100. 

Cada una de sus GPUs cuentan con una U ARM NVIDIA Grace junto con la GPU con Tensor Cores NVIDIA H100, de esta manera tanto la u como la GPU se encuentran interconectadas en el mismo empaquetado y se evita la necesidad de utilizar PCI Express, más lento (7 veces más lento en concreto) y con mayor consumo. Cada uno de estos chips se unifica con el sistema  NVLink-C2C haciendo que funcionen como una única GPU.

De hecho, el NVIDIA DGX GH200 es el primer superordenador del mundo que combina los chips Grace Gooper con el sistema de interconexión de switches NVLink, consiguiendo 48 veces más ancho de banda NVLink que las pasadas generaciones.

Su principal orientación es la de ejecutar sistemas de Inteligencia Artificial generativa como GPT y otros similares. Estarán disponibles inicialmente en sistemas de Google Cloud, Meta (Facebook) y Microsoft, aunque NVIDIA también ofrecerá los DGX GH200 como base para otros proveedores de servicios en la nube.

Las primeras unidades estarán disponibles a finales de este año. 

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!