NVIDIA se está preparando para lanzar más tarjetas H100 Hopper con opciones de memoria de 94 GB y 64 GB.

Según la reciente actualización de la lista de ID de dispositivos PCI, NVIDIA podría añadir más variantes del acelerador de centros de datos H100 Hopper. Uno de los contribuyentes a la lista pública de ID de PCI afirma que se están desarrollando modelos basados en SXM5 que cuentan con 94GB y 64GB de memoria. El hecho de que estas tarjetas utilicen el factor de forma SXM5 sugiere que estamos hablando de memoria HBM, posiblemente de diseño HBM3.

No obstante, la configuración de memoria de 94GB es un tanto inusual y no está claro cómo se configuran exactamente los módulos de memoria HBM. Sin embargo, esta no es la primera tarjeta H100 en lanzarse con 94GB de memoria, ya que existe una H100 NVL (para modelos de lenguaje grandes) con la misma configuración de memoria. NVIDIA no explicó cómo se logran los 94GB de memoria, pero es probable que se deba a la producción y los rendimientos de HBM. Puede ser más conveniente desactivar capas en el apilamiento en lugar de todo el apilamiento.