HP lleva la IA con NVIDIA GB300 y Red Hat fuera del centro de datos

HP quiere acercar la inferencia de inteligencia artificial de nivel empresarial al lugar donde se generan los datos. La compañía trabaja con Red Hat y NVIDIA en una plataforma que combinará HP ZGX Fury, el superchip NVIDIA GB300 Grace Blackwell Ultra y Red Hat AI Factory para ejecutar modelos y agentes localmente, sin depender de que todas las cargas tengan que viajar hasta un centro de datos o una nube pública.

Las claves de la nueva plataforma de IA de HP en 30 segundos

  • HP desarrolla junto a Red Hat y NVIDIA una plataforma para ejecutar inferencia de IA en instalaciones locales y entornos edge.
  • HP ZGX Fury utiliza NVIDIA GB300 Grace Blackwell Ultra y alcanza hasta 20 PFLOPS FP4.
  • El sistema dispone de 748 GB de memoria coherente entre CPU y GPU.
  • Red Hat AI Factory aportará gestión, orquestación y despliegue de modelos y agentes.
  • ZGX Fury ya puede pedirse, pero la solución conjunta completa todavía está en desarrollo.

El anuncio tiene una lectura que va más allá de una nueva estación de trabajo. HP intenta trasladar al entorno local parte de la arquitectura que actualmente se asocia a servidores de inteligencia artificial, combinándola con herramientas para administrar modelos, aplicaciones y agentes de manera consistente entre instalaciones propias y nube.

Eso puede resultar especialmente interesante para empresas que necesitan procesar información cerca de fábricas, tiendas, laboratorios, oficinas o instalaciones con restricciones de conectividad. También para aquellas que no quieren enviar determinados datos a servicios externos por motivos de privacidad, regulación o soberanía.

La propuesta no pretende sustituir completamente al centro de datos. HP plantea un modelo híbrido en el que cada carga pueda ejecutarse donde resulte más conveniente.

Un GB300 con 748 GB de memoria coherente en una torre refrigerada por líquido

El componente más llamativo es HP ZGX Fury, un sistema que HP describe como una estación de IA y que técnicamente se encuentra bastante lejos de una workstation convencional.

Su NVIDIA GB300 Grace Blackwell Ultra Superchip combina una CPU Grace de 72 núcleos Arm Neoverse V2 con una GPU Blackwell Ultra.

Las especificaciones publicadas por HP detallan 496 GB de memoria LPDDR5X para la CPU y 252 GB de HBM3e para la GPU, con un ancho de banda de esta última de 7,1 TB/s.

En total, la arquitectura proporciona 748 GB de memoria coherente.

CaracterísticaHP ZGX Fury
SuperchipNVIDIA GB300 Grace Blackwell Ultra
CPUGrace, 72 núcleos Arm Neoverse V2
Memoria CPU496 GB LPDDR5X
Memoria GPU252 GB HBM3e
Memoria coherente total748 GB
Rendimiento IAHasta 20 PFLOPS FP4
Red2 × QSFP112 de 400 Gbps
RefrigeraciónLíquida
FormatoTorre instalable también en rack
Sistema operativo inicialUbuntu

HP asegura que esta capacidad permite ejecutar localmente modelos de hasta un billón de parámetros, aunque esa afirmación depende de la cuantificación del modelo y no significa que cualquier modelo de ese tamaño pueda ejecutarse en cualquier precisión o configuración.

La compañía también sitúa el ajuste fino local alrededor de modelos de la clase de 100.000 millones de parámetros.

El sistema alcanza, según las especificaciones de HP, hasta 20 PFLOPS de rendimiento FP4, una precisión especialmente orientada a acelerar cargas de IA.

No obstante, los PFLOPS teóricos tampoco permiten comparar directamente el rendimiento real entre modelos, aplicaciones y aceleradores. La velocidad de inferencia dependerá de factores como el modelo utilizado, cuantificación, longitud de contexto, número de usuarios simultáneos y software encargado de servirlo.

La máquina tampoco es especialmente pequeña. Las configuraciones comerciales publicadas por HP parten de aproximadamente 41 kilogramos y utilizan refrigeración líquida. Su formato permite utilizarla como torre o instalarla en rack.

Esa combinación ayuda a entender mejor a qué mercado apunta: equipos que necesitan capacidad similar a la de un servidor de IA, pero quieren colocarla directamente en una oficina, laboratorio, departamento o instalación remota.

Red Hat convierte el hardware local en una pequeña plataforma de IA

El segundo componente del acuerdo intenta solucionar un problema menos visible que comprar una GPU: operar la infraestructura.

Tener un GB300 disponible no proporciona por sí solo una plataforma empresarial para desplegar modelos.

HP quiere combinar ZGX Fury con Red Hat AI Factory with NVIDIA, construido sobre Red Hat Enterprise Linux y Red Hat OpenShift y pensado para gestionar modelos, agentes y aplicaciones de inteligencia artificial a través de infraestructuras híbridas.

La propuesta también incorpora tecnologías de NVIDIA AI Enterprise y Red Hat AI Enterprise.

El objetivo declarado es permitir que diferentes cargas compartan el mismo sistema manteniendo aislamiento, gobierno y control operativo. También pretende mejorar el uso de la GPU mediante bibliotecas CUDA, planificación de recursos y orquestación de cargas con varias GPU.

Hay una diferencia importante entre el hardware y esta plataforma conjunta.

HP ZGX Fury ya está disponible para pedidos y está certificado para Red Hat Enterprise Linux, pero la solución completa basada en Red Hat AI Factory todavía está prevista.

HP permitirá evaluarla mediante entornos aislados o sandboxes ejecutados en sus dispositivos antes de pasar las cargas a producción. La compañía todavía no ha comunicado fechas, ubicaciones, configuraciones compatibles o condiciones de acceso para esas pruebas.

Por tanto, no debe interpretarse el anuncio como si toda la plataforma conjunta estuviera ya disponible comercialmente.

La inferencia empieza a salir de los grandes centros de datos

La propuesta refleja una tendencia más amplia de la infraestructura de IA.

El entrenamiento de los grandes modelos seguirá necesitando enormes clústeres de aceleradores. La inferencia plantea un problema diferente porque ocurre continuamente cada vez que una persona, aplicación, máquina o agente utiliza el modelo.

Enviar todas esas peticiones a una región cloud puede no ser siempre la mejor solución.

Una fábrica puede querer analizar imágenes de una línea de producción prácticamente en tiempo real. Un hospital puede manejar información que prefiere mantener dentro de sus instalaciones. Una administración puede necesitar sistemas desconectados de Internet y una empresa de ingeniería puede querer proporcionar modelos internos a sus desarrolladores sin pagar por cada token consumido externamente.

El procesamiento local puede reducir parte de esos problemas, aunque introduce otros.

La empresa pasa a responsabilizarse de adquirir y operar hardware de elevado coste, consumo eléctrico, refrigeración, almacenamiento y actualizaciones. Además, tener los datos físicamente dentro de sus instalaciones no convierte automáticamente una plataforma en soberana ni garantiza el cumplimiento normativo.

El software, las identidades, las conexiones externas, el gobierno de los modelos y la gestión de la información continúan siendo relevantes.

HP menciona precisamente fabricación, ingeniería, desarrollo de software, comercio minorista, sanidad, administraciones públicas y operaciones distribuidas entre los primeros casos de uso previstos.

Uno de los ejemplos más claros es la visión artificial industrial. Las imágenes de una línea de producción pueden analizarse localmente para detectar defectos sin transmitir continuamente grandes volúmenes de vídeo hacia una nube remota.

Otro es el desarrollo de software con agentes. Un equipo podría ejecutar localmente modelos destinados a programación, pruebas y evaluación mientras mantiene el código y otra información corporativa dentro de su infraestructura.

El planteamiento también cambia parcialmente la economía del consumo de IA.

Los servicios mediante API suelen cobrar según los tokens procesados. Una infraestructura propia sustituye parte de ese coste variable por inversión y gastos operativos relativamente más previsibles.

Eso no significa que ejecutar IA localmente sea necesariamente más barato. Dependerá de cuánto se utilice el sistema, su precio de adquisición, electricidad, mantenimiento, personal y vida útil. Un equipo infrautilizado puede resultar mucho más caro por token que contratar capacidad externa.

Para cargas intensivas, permanentes y previsibles, la ecuación puede ser diferente.

Ahí está precisamente el mercado que HP intenta cubrir con ZGX Fury: situar una cantidad de memoria y capacidad de cálculo que hasta hace poco se asociaba al centro de datos directamente junto a los equipos que consumen la IA, mientras Red Hat proporciona una capa común para administrarla.

La nube continuará formando parte de esa arquitectura. La diferencia es que el centro de gravedad de la inferencia empieza a poder repartirse entre cloud, centro de datos y sistemas locales mucho más potentes.

Preguntas frecuentes

¿Qué es HP ZGX Fury?

HP ZGX Fury es una estación de IA para desarrollo e inferencia local basada en NVIDIA GB300 Grace Blackwell Ultra. Cuenta con hasta 748 GB de memoria coherente y un rendimiento anunciado de hasta 20 PFLOPS FP4.

¿Puede ejecutar modelos de un billón de parámetros?

HP indica que ZGX Fury puede alojar localmente modelos de hasta un billón de parámetros utilizando cuantificación FP4. La posibilidad y rendimiento reales dependerán del modelo, su arquitectura y configuración.

¿Qué aporta Red Hat AI Factory?

Aporta la capa de software empresarial para desplegar y administrar modelos, agentes y aplicaciones de IA en entornos híbridos, apoyándose en tecnologías como Red Hat Enterprise Linux y OpenShift.

¿Ya está disponible la plataforma conjunta de HP, Red Hat y NVIDIA?

HP ZGX Fury ya está disponible para pedidos y cuenta con certificación para Red Hat Enterprise Linux. La integración completa prevista con Red Hat AI Factory todavía no tiene una fecha pública definitiva de disponibilidad.

encuentra artículos

newsletter

Recibe toda la actualidad del sector tech y cloud en tu email de la mano de RevistaCloud.com.

Suscripción boletín

LO ÚLTIMO