¿Estás buscando un nuevo PC gaming? Quizás te sorprenda saber que no podrás jugar a gran cosa en el nuevo súper ordenador NVidia de 50.000 dólares (unos 46.000 euros) que acaba de poner a la venta la tienda online GPTShop.

Si lo que buscas, en cambio, es un ordenador para entrenar y generar inteligencias artificiales (y no te alcanza para montar una granja de GPUs A100 (las tarjetas gráficas más potentes del mercado, por las que se están matando Microsoft, Meta y compañía), en ese caso, este es el mejor equipo que el dinero puede comprar. Con todos ustedes, el GH200.

¿Cómo es el ordenador NVidia más potente para inteligencia artificial?

NVIDIA-GH200

Como ya te explicamos en nuestro artículo sobre la importancia de NVidia en el mundo de la inteligencia artificial (así como en el de los superordenadores diseñados para inteligencia artificial), el entrenamiento y generación de IA basada en redes neuronales requiere potencia para trabajar con las ingentes base de datos que manejan.

Aprovechando que la nueva GPU de NVidia H200 (sustituta del H100 y anunciada en otoño) ya está disponible para encargo, una tienda online se ha atrevido a montar un llamativo PC  de caja dorada customizado para obtener la mejor experiencia posible gracias, sobre todo, a que cuenta con dicha tarjeta gráfica de 141 GB.

Perdona, ¿una tarjeta gráfica de 141 GB?

Sí, has leído bien, 141 GB. Si no entiendes mucho de tarjetas gráficas, sólo necesitas saber que la mayoría de los juegos hoy en día recomiendan una tarjeta de 8GB de VRAM (memoria RAM dedicada de la GPU, independiente de la de tu ordenador). Aquellos que se compren un PC en 2024 y cuenten con algo más de presupuesto pueden estirarse y comprar una tarjeta gráfica de 16GB, como los de la reciente RTX 4060 Ti.

Los streamers tipo Ibai o Xokas (sin problema económico alguno) optan por la mejor de su categoría, la 4090, de 24 GB de VRAM. Dicho esto, entenderás mejor por qué la mera existencia de una tarjeta gráfica NVidia de 141 GB es algo tan desproporcionado que cuesta de asimilar.

Insistimos: aquí no hemos venido a jugar.

Así es el súper ordenador GH200 diseñado como estación de trabajo de inteligencia artificial

El ordenador mas potente del mundo

Aunque la CPU y la GPU estrella de Nvidia están pensadas para centros de datos e IA, GPTshop.ai ha puesto a la venta un ordenador que bajo el nombre de GH200 nos presenta una estación de trabajo de IA en un formato de ordenador de sobremesa basado en la GPU H200. Cualquiera puede acceder ahora a la CPU Grace y la GPU Hopper de Nvidia, siempre que disponga de al menos 50.000 dólares para permitirse el modelo base del sistema GH200.

Además, el equipo incluye:

  • 480 GB de memoria LPDDR5X ECC
  • 96 GB de memoria HBM3 (o 144 GB de HBM3e)
  • Dos fuentes de alimentación de 2.000 o 2.400 W.

¿Cuáles son sus principales ventajas?

No es que queramos darle publicidad (te lo prometemos, este artículo no está patrocinado), pero en la página web del producto han elaborado una bonita lista con oraciones que van descendiendo en extensión que nos hemos permitido traducir y pegar tal cual, adaptándola para mantener la armonía estética del listado de motivos para comprar esta bestia de la computación:

  • Su rendimiento en todos los aspectos es casi irreal (hasta 284 veces más rápido que x86).
  • Mucho más barato que otros sistemas alternativos con la misma cantidad de memoria.
  • Tiene memoria suficiente para ejecutar los mayores LLM disponibles en la actualidad.
  • Optimizado para inferencia con uso intensivo de memoria y rendimiento HPC.
  • Ideal para aplicaciones HPC como, por ejemplo, la secuenciación de genomas.
  • Se puede utilizar como servidor o como sobremesa/estación de trabajo.
  • Más barato y mucho más rápido que los proveedores de la nube.
  • Ideal para IA, especialmente inferencia y ajuste fino de LLMs.
  • Privacidad e independencia de los proveedores de la nube.
  • Perfecto para inteligencia artificial, ML, GPT, LLM y HPC.
  • Es muy eficiente desde el punto de vista energético.
  • Fácilmente personalizable, actualizable y reparable.
  • No se necesita ninguna infraestructura especial.
  • Cantidades gigantescas de memoria coherente.
  • Flexibilidad y posibilidad de uso offline.
  • La latencia más baja posible.
  • Fácil de transportar.
  • Funciona con Linux.
  • Es muy silencioso.
  • Es bonito.

Comparativa de rendimiento de tarjetas gráficas NVidia para inteligencia artificial

Para que te hagas una mejor idea del rendimiento de esta máquina para, por ejemplo, generar imágenes usando Stable Diffusion, te dejamos esta interesante tabla comparativa publicada por un usuario de Reddit. Si bien aún no existía la GPU H200 cuando la publicaron, podemos usar como referencia la H100. O no, pues no olvidemos que cuenta con una burrada más de VRAM. Sea como sea, ninguna RTX 490 estará cerca de siquiera acercarse al rendimiento de este súper ordenador, el mejor jamás diseñado para trabajar con inteligencia artificial en casa. I/S significa iteraciones por segundo. Cuantas más, mejor:

Rendimiento en Stable Diffusion de las principales GPUs NVidia.
Rendimiento en Stable Diffusion de las principales GPUs NVidia.

Grace de GH200: el mejor ordenador para usar inteligencia artificial en casaOrdenador mas potente de 2024

La CPU Grace de GH200 tiene 72 núcleos y viene con 480 GB de memoria LPDDR5X. La verdadera estrella del espectáculo es el chip H200 basado en Hopper, que mide la friolera de 814 mm2 y tiene 16.896 núcleos CUDA. Curiosamente, GPTshop.ai ofrece tanto la versión HBM3 del GH200 como la más reciente HBM3e, que incluye más VRAM.

El sistema también cuenta con ventiladores y refrigeración Noctua. Tiene complementos opcionales como las tarjetas de red Bluefield-3 y ConnectX-7 de Nvidia, discos SSD de 8 TB, discos duros de 30 TB, ratón y teclado, e incluso una RTX 4060, presumiblemente para salida de gráficos o acceso a Ray Tracing, que es una de las pocas funciones que Hopper no admite. Su única opción para el sistema operativo es un servidor Ubuntu; Windows no es un gran sistema operativo para las CPU Arm, y mucho menos para una CPU Arm de centro de datos.

En cuanto al rendimiento de este sistema equipado con GH200, la publicación Phoronix, especializada en Linux, probó la CPU Grace de la estación de trabajo en varias cargas de trabajo. Aunque Grace fue más lenta de media que los chips de gama alta de Intel y AMD, ganó más pruebas comparativas que ningún otro chip: 15 contra Emerald Rapids y 13 contra Bergamo y Genoa, de un total de 23 pruebas comparativas.

Aunque 50.000 dólares no es poco dinero para una estación de trabajo de sobremesa, parece una buena oferta si se tiene en cuenta que la H100, predecesora de la H200, cuesta por sí sola 40.000 dólares. Por 50.000 dólares, obtener una GPU más rápida y una CPU de servidor de gama alta en un sistema prefabricado parece un buen negocio. ¿Te animas a dar el salto?