Vera Rubin debuta en MLPerf: el doble por GPU en entrenamiento que GB300

Sistema NVIDIA Vera Rubin NVL72 en las pruebas MLPerf

NVIDIA ha presentado los primeros resultados de entrenamiento de Vera Rubin NVL72 en MLPerf Training v6.1, la ronda de pruebas de MLCommons publicada el 16 de noviembre. Según la compañía, su nueva plataforma ofrece hasta el doble de rendimiento por GPU que GB300 NVL72. NVIDIA también se ha estrenado en MLPerf Endpoints v1.0, una prueba nueva centrada en agentes de IA, donde asegura multiplicar por más de 10 el rendimiento por vatio, aunque ese resultado de Vera Rubin está todavía pendiente de verificación.

Las claves de Vera Rubin en MLPerf en 20 segundos

  • Vera Rubin NVL72 rinde hasta 2 veces más por GPU que GB300 NVL72 en MLPerf Training v6.1.
  • Entrenó DeepSeek-V3 con 1.024 GPU en unos 4 minutos, con un 97 % de eficiencia de escalado.
  • En MLPerf Endpoints, NVIDIA reclama más de 10 veces más tokens por vatio con Kimi K3, aún sin verificar.
  • NVIDIA fue la única plataforma con resultados en todas las pruebas de entrenamiento.

Vera Rubin ya había debutado en septiembre en la ronda de inferencia, donde NVIDIA reclamó hasta 3,7 veces el rendimiento de GB300 en algunas pruebas. Ahora completa el cuadro con entrenamiento y con una prueba pensada para la IA agéntica. Como siempre con MLPerf, los resultados los presenta cada fabricante sobre las pruebas que elige, y no todos los competidores participan en todas.

Entrenamiento: DeepSeek-V3 en cuatro minutos

MLPerf Training v6.1 incluye pruebas con grandes modelos de lenguaje, generación de imágenes, sistemas de recomendación y posentrenamiento con aprendizaje por refuerzo. NVIDIA señala que fue la única plataforma con resultados en todas ellas. El dato más llamativo es el escalado de Vera Rubin NVL72 con DeepSeek-V3: al pasar de 256 a 1.024 GPU mantuvo alrededor de un 97 % de eficiencia y el tiempo de entrenamiento bajó de 16 minutos a unos 4.

La mayor escala de la ronda también fue con DeepSeek-V3: NVIDIA lo ejecutó con 10.240 GPU en sistemas GB300, y Microsoft Azure igualó esa cifra con 10.240 GPU GB200. Enviaron resultados con plataformas de NVIDIA socios como ASUS, Azure, Cisco, CoreWeave, Crusoe, Dell, Google Cloud, HPE, Lambda, Nebius, Oracle o Supermicro, entre otros.

Sistema NVIDIA Vera Rubin NVL72 en las pruebas MLPerf
Imagen: NVIDIA

MLPerf Endpoints: tokens por vatio para agentes

MLPerf Endpoints mide sistemas con flujos de trabajo agénticos reales, de programación y empresariales, comprueba que los agentes completan correctamente sus tareas y valora el rendimiento por vatio. Con el modelo Kimi K3 y una velocidad mínima común de 50 tokens por segundo por usuario, el sistema Vera Rubin NVL72 alcanzó 41.414 tokens por segundo con 32 aceleradores y 100,9 kW, frente a 2.210 tokens por segundo de GB300 NVL72 con 48 aceleradores y 60 kW. Eso equivale a unos 410 frente a unos 37 tokens por segundo y kilovatio, más de 10 veces.

Hay matices. El resultado de Vera Rubin en Kimi K3 está pendiente de verificación y revisión por MLCommons, mientras que el de GB300 sí está verificado. Y el tiempo hasta el primer token en el percentil 90 fue mayor en Vera Rubin, 4,7 segundos frente a 2,3, porque atendía 1.024 consultas simultáneas frente a 48. NVIDIA añade que Vera Rubin también lidera en las pruebas independientes AgentX, de SemiAnalysis, y AgentPerf, de Artificial Analysis.

Preguntas frecuentes

¿Cuánto más rápido es Vera Rubin que GB300 en entrenamiento?

Según NVIDIA, hasta el doble de rendimiento por GPU en MLPerf Training v6.1.

¿Qué es MLPerf Endpoints?

Una prueba de MLCommons que mide sistemas con flujos de trabajo agénticos reales y valora el rendimiento por vatio. La versión 1.0 es la primera en la que participa NVIDIA.

¿Están verificados los resultados de Vera Rubin en Endpoints?

No todavía. El resultado con Kimi K3 está pendiente de verificación y revisión por MLCommons.

Fuentes:

encuentra artículos

newsletter

Recibe toda la actualidad del sector tech y cloud en tu email de la mano de RevistaCloud.com.

Suscripción boletín

LO ÚLTIMO