NVIDIA continúa liderando la transformación de la inteligencia artificial (IA) y la computación de alto rendimiento (HPC) con la presentación de su nuevo GPU H200 NVL PCIe, un miembro más de la arquitectura Hopper. Este lanzamiento se anunció durante la conferencia Supercomputing 2024 (SC24), destacando las capacidades de este GPU para mejorar el rendimiento y la eficiencia energética en servidores empresariales convencionales.

Una solución flexible para los centros de datos actuales

El H200 NVL está diseñado específicamente para organizaciones que necesitan infraestructuras de centros de datos más eficientes y flexibles. Según una encuesta reciente, aproximadamente el 70% de los racks empresariales tienen una capacidad de 20 kW o menos y dependen de sistemas de refrigeración por aire. El H200 NVL responde a esta necesidad con configuraciones escalables que permiten integrar entre uno y ocho GPUs por rack, maximizando la potencia de cálculo sin necesidad de modificar la infraestructura existente.

El nuevo GPU ofrece mejoras significativas respecto a su predecesor, el H100 NVL, incluyendo un aumento del 50% en la memoria y un incremento del 20% en el ancho de banda. Estas características permiten a las empresas ajustar modelos de lenguaje extenso (LLMs) en pocas horas y lograr un rendimiento hasta 1,7 veces más rápido en inferencias. Para cargas de trabajo de HPC, el H200 NVL supera en un 30% el rendimiento del H100 NVL y es 2,5 veces más potente que los GPUs de la generación Ampere.

Rendimiento revolucionario con NVLink

La tecnología NVIDIA NVLink complementa las capacidades del H200 NVL al proporcionar una comunicación GPU-a-GPU hasta 7 veces más rápida que PCIe de quinta generación. Esto se traduce en un rendimiento superior para aplicaciones de HPC y tareas relacionadas con modelos de lenguaje extensos y ajuste fino de IA.

Además, el H200 NVL viene acompañado de una suscripción de cinco años a NVIDIA AI Enterprise, una plataforma nativa de la nube diseñada para el desarrollo e implementación de IA en producción. Este software incluye microservicios de NVIDIA NIM, que garantizan despliegues seguros y de alto rendimiento para modelos de inferencia de IA.

Impacto en múltiples industrias

El H200 NVL ya está transformando aplicaciones en diversas áreas como agentes visuales de IA y chatbots para atención al cliente, algoritmos de trading en finanzas, análisis de imágenes médicas para detección de anomalías en salud, reconocimiento de patrones en manufactura y modelado sísmico para instituciones científicas.

Empresas como Dropbox han destacado las ventajas de esta tecnología para optimizar sus servicios. Ali Zafar, vicepresidente de Infraestructura de Dropbox, afirmó: “Estamos explorando el H200 NVL para continuar mejorando nuestros servicios y brindar más valor a nuestros clientes.”

Por su parte, la Universidad de Nuevo México también está adoptando el H200 NVL para acelerar investigaciones en áreas como bioinformática, astrofísica, modelado climático y simulaciones de física. El profesor Patrick Bridges, director del Centro de Computación Avanzada de la universidad, comentó: “Esta tecnología nos permitirá estar a la vanguardia de los avances científicos y tecnológicos.”

Disponibilidad y socios globales

Fabricantes como Dell Technologies, Hewlett Packard Enterprise, Lenovo y Supermicro lanzarán configuraciones basadas en el H200 NVL. Además, otras marcas como ASUS, GIGABYTE, MSI y QCT integrarán esta tecnología en sus plataformas.

A partir de diciembre, el H200 NVL estará disponible en sistemas de socios globales de NVIDIA. Para facilitar su implementación, NVIDIA está desarrollando una Arquitectura de Referencia Empresarial que incluye recomendaciones de hardware y software optimizadas, así como configuraciones de red basadas en la plataforma NVIDIA Spectrum-X Ethernet.

El H200 NVL y otras tecnologías de NVIDIA están siendo exhibidas en el piso de exposición de la conferencia SC24, en el Georgia World Congress Center.

Transformando la computación empresarial

Con el H200 NVL, NVIDIA no solo amplía los límites del rendimiento en IA y HPC, sino que también ofrece a las empresas una solución escalable y eficiente que responde a las necesidades de los centros de datos modernos, reafirmando su liderazgo en la industria tecnológica.

vía: Nvidia