NVIDIA Vera ha mostrado una ventaja clara frente a varios procesadores AMD EPYC basados en Zen 5 en unas pruebas de Daytona centradas en cargas de trabajo de inteligencia artificial agéntica. El procesador de NVIDIA consiguió poner en funcionamiento 1.000 sandboxes en 10,8 segundos y 2.000 en 27,4 segundos, mientras que un EPYC 9755 necesitó 88,4 segundos para alcanzar los 1.000 entornos. Los resultados proceden de las pruebas publicadas por Daytona y no constituyen una comparativa independiente de todos los procesadores para servidores.

Las claves de NVIDIA Vera en 20 segundos

• Vera alcanzó 13,3 trabajos de agentes completados por segundo en las pruebas de Daytona.
• Puso 1.000 sandboxes en línea en 10,8 segundos y 2.000 en 27,4 segundos.
• El EPYC 9755 necesitó 88,4 segundos para poner en marcha 1.000 entornos y el 9575F, 32,3 segundos.
• Daytona calcula que Vera necesita un 15 % menos de máquinas que el EPYC 9755 y un 38 % menos que el 9575F para un volumen equivalente.
• Las pruebas se centran en agentes de IA que ejecutan código y necesitan sus propios sistemas de archivos, herramientas y entornos.

El resultado pone el foco en una parte menos visible de la infraestructura para IA. Cuando miles de agentes ejecutan código simultáneamente, el problema no consiste únicamente en disponer de suficiente capacidad de GPU. Cada agente puede necesitar un entorno aislado, dependencias, acceso a archivos, una consola y capacidad para ejecutar pruebas. La CPU pasa así a determinar cuántos de esos entornos pueden arrancar y mantenerse activos sobre una misma máquina.

Vera destaca al poner miles de sandboxes en funcionamiento

Daytona, una plataforma especializada en la ejecución de código generado por IA y flujos de trabajo con agentes, comparó NVIDIA Vera con procesadores EPYC de AMD utilizando la misma tarea de agente sobre grandes cantidades de sandboxes.

La métrica más llamativa es el tiempo necesario para poner los entornos en funcionamiento. Vera alcanzó 1.000 sandboxes en 10,8 segundos y duplicó esa cifra hasta 2.000 en 27,4 segundos.

El AMD EPYC 9755 empleado como referencia necesitó 88,4 segundos para poner en línea 1.000 sandboxes. El EPYC 9575F, con una frecuencia superior, redujo ese tiempo hasta 32,3 segundos.

En términos relativos, la comparación favorece a Vera frente al EPYC 9755: 10,8 segundos frente a 88,4 segundos para alcanzar los mismos 1.000 entornos. La diferencia es de algo más de ocho veces en esta prueba concreta.

El EPYC 9575F reduce considerablemente la distancia gracias a sus mayores frecuencias, pero tampoco alcanza el resultado de Vera en el arranque de los entornos. Daytona utiliza estos datos para destacar la importancia del rendimiento por núcleo en este tipo de cargas.

Conviene matizar que no se trata de una medición general del rendimiento de las arquitecturas Arm y x86. La prueba representa un escenario concreto, con el software de Daytona y una carga de trabajo diseñada para agentes de IA. El resultado tampoco permite concluir que Vera sea más rápido que cualquier procesador EPYC en cualquier aplicación.

El rendimiento se mantiene cuando aumenta la concurrencia

Daytona también midió qué ocurre cuando crece el número de agentes ejecutándose al mismo tiempo. En este caso, NVIDIA Vera alcanzó un máximo de 13,3 trabajos de agentes completados por segundo y se mantuvo cerca de los 13 trabajos por segundo al llegar a 2.000 sandboxes concurrentes.

El EPYC 9755 se estabilizó alrededor de los 11 trabajos por segundo, mientras que el EPYC 9575F se situó cerca de los 8 trabajos por segundo en las cifras difundidas por Daytona.

La diferencia que destaca la compañía no es únicamente el máximo alcanzado, sino la estabilidad cuando la máquina se acerca a su capacidad de trabajo. Vedran Jukić, cofundador y director de tecnología (CTO) de Daytona, señala que el comportamiento de Vera al llegar a 2.000 entornos resulta más relevante que su pico de rendimiento.

Para una plataforma de agentes, esta característica tiene una explicación práctica. Un sistema que puede mantener una tasa elevada de trabajos cuando aumenta la concurrencia permite concentrar más agentes en una misma máquina. El objetivo es reducir la cantidad de servidores necesarios para una determinada carga o utilizar la infraestructura existente para ejecutar más trabajos.

Según los cálculos publicados por Daytona, Vera necesitaría un 15 % menos de máquinas que el EPYC 9755 para mantener un volumen equivalente de trabajo y un 38 % menos que el EPYC 9575F. La compañía relaciona esa reducción con posibles ventajas en consumo eléctrico, refrigeración y costes de infraestructura.

Estas cifras son estimaciones derivadas de las pruebas de Daytona, por lo que no deben interpretarse automáticamente como un ahorro de coste total de propiedad (TCO) en cualquier centro de datos. Para determinarlo habría que considerar también el precio de los sistemas, memoria, almacenamiento, red, software, consumo real y las características concretas de cada instalación.

Los agentes de IA están convirtiendo la CPU en un problema de densidad

El cambio que describe Daytona tiene que ver con la forma en que funcionan los agentes de programación. Un agente no se limita a generar texto. Puede crear archivos, instalar dependencias, ejecutar comandos, lanzar pruebas y modificar código dentro de un entorno aislado.

Cuando esas operaciones se multiplican por cientos o miles de agentes, cada ejecución necesita recursos propios. La infraestructura debe crear los entornos rápidamente y mantenerlos operativos mientras los agentes trabajan.

Ese escenario favorece procesadores capaces de gestionar una elevada concurrencia y mantener un buen rendimiento por núcleo. También hace que aspectos tradicionalmente asociados a servidores, como el almacenamiento, la memoria, la virtualización y la gestión de procesos, tengan un peso importante en la experiencia final.

NVIDIA ha desarrollado Vera como una plataforma de CPU Arm orientada a cargas de centros de datos y, en este caso, el resultado de Daytona muestra una mejora respecto a los procesadores Grace utilizados anteriormente por NVIDIA, según la información aportada.

La comparación tampoco incluye en estas cifras a toda la generación más reciente de AMD. La propia información señala que AMD ya dispone de procesadores EPYC basados en Zen 6, por lo que los resultados obtenidos con Zen 5 no permiten establecer cómo se comportaría Vera frente a toda la oferta actual de AMD.

El interés de estas pruebas está precisamente en mostrar que la infraestructura de IA está ampliando sus necesidades. Los modelos siguen dependiendo de aceleradores para muchas operaciones de cálculo, pero los agentes que ejecutan tareas de forma autónoma también necesitan una base de CPU capaz de gestionar miles de procesos y entornos simultáneos.

Para NVIDIA, Vera supone además una expansión de su propuesta más allá de las GPU. Si estas cargas mantienen el crecimiento esperado, el rendimiento de las CPU utilizadas para coordinar y ejecutar agentes puede adquirir un peso mayor en el diseño de las infraestructuras de IA.

Por ahora, los resultados disponibles son los de Daytona y corresponden a un conjunto concreto de pruebas. La cifra de 10,8 segundos para 1.000 sandboxes y los 13,3 trabajos por segundo alcanzados por Vera son relevantes dentro de ese escenario, pero será necesario comparar más plataformas, configuraciones y cargas para determinar hasta dónde llega la ventaja de esta arquitectura.

Preguntas frecuentes

¿Cuánto tarda NVIDIA Vera en poner 1.000 sandboxes en línea?

En las pruebas de Daytona, Vera necesitó 10,8 segundos para poner en funcionamiento 1.000 sandboxes. Para 2.000 entornos, el tiempo fue de 27,4 segundos.

¿Cómo queda AMD EPYC frente a NVIDIA Vera?

El EPYC 9755 necesitó 88,4 segundos para poner en línea 1.000 sandboxes, mientras que el EPYC 9575F tardó 32,3 segundos. En las pruebas de rendimiento sostenido, Vera alcanzó 13,3 trabajos de agentes por segundo.

¿Por qué importa tanto la CPU para los agentes de IA?

Los agentes que ejecutan código necesitan crear y mantener entornos con archivos, dependencias, herramientas y procesos. Cuando se ejecutan miles simultáneamente, la capacidad de la CPU para gestionar esa concurrencia se convierte en un factor importante.

¿Vera es más rápido que todos los AMD EPYC?

No puede afirmarse a partir de estas pruebas. La comparativa se realizó con los EPYC 9755 y 9575F basados en Zen 5, mientras que AMD ya cuenta con generaciones posteriores. Además, los resultados corresponden a las cargas de trabajo concretas utilizadas por Daytona.