La velocidad con la que Nvidia presenta nuevas generaciones de aceleradores puede hacer pensar que una GPU de inteligencia artificial queda obsoleta en pocos años. La experiencia de CoreWeave apunta en otra dirección. El proveedor de infraestructura ha cerrado un contrato para seguir alquilando GPU Nvidia A100 hasta 2029, según explicó recientemente su director financiero, Nitin Agrawal. Para entonces, una arquitectura presentada en 2020 estará cerca de cumplir una década y podría continuar generando ingresos incluso después de estar completamente amortizada.

Las claves de la segunda vida de las GPU de IA en 30 segundos

• CoreWeave ha contratado capacidad basada en Nvidia A100 hasta 2029, según declaraciones recogidas por The Wall Street Journal.
• Las A100 llegaron al mercado en 2020 y siguen siendo capaces de ejecutar numerosas cargas de entrenamiento, inferencia y computación.
• El hardware completamente amortizado puede resultar muy rentable si mantiene suficiente utilización.
• Las nuevas generaciones ofrecen mucha más computación por megavatio, algo determinante donde la electricidad escasea.
• La vida económica de una GPU podría depender tanto de su eficiencia y carga de trabajo como de su antigüedad.

La cuestión tiene implicaciones que van bastante más allá de CoreWeave. Durante los últimos años se han invertido decenas de miles de millones en aceleradores para construir infraestructura de IA. Si esas GPU conservan utilidad económica durante ocho, nueve o más años, cambia el cálculo sobre amortización, financiación y valor residual de unos activos que hasta ahora se han tratado como hardware sometido a una obsolescencia extremadamente rápida.

Las A100 son un buen ejemplo. Nvidia presentó esta arquitectura en 2020 y posteriormente fue sustituyéndola por generaciones como Hopper y Blackwell. Pero que exista hardware mucho más rápido no significa automáticamente que las A100 hayan dejado de servir.

Nvidia todavía documenta capacidades como Multi-Instance GPU (MIG), que permite dividir una A100 en hasta siete instancias independientes, una característica útil para repartir el acelerador entre cargas que no necesitan una GPU completa. La versión de 80 GB dispone además de memoria suficiente para numerosas aplicaciones empresariales, científicas y de inferencia.

Una GPU amortizada puede convertirse en una máquina de margen

El aspecto más interesante del caso CoreWeave es económico.

Las empresas suelen depreciar contablemente sus servidores y aceleradores durante varios años. Ese gasto de depreciación reduce los resultados durante la vida contable asignada al activo.

Cuando termina ese periodo, el servidor no desaparece.

Si continúa funcionando y existe un cliente dispuesto a pagar por utilizarlo, la infraestructura puede seguir produciendo ingresos sin soportar ya la misma carga de depreciación. Permanecen electricidad, refrigeración, red, mantenimiento, instalaciones y otros costes operativos, pero la economía del activo cambia.

Agrawal explicó que CoreWeave está observando periodos de utilización más largos y precios mejores de lo esperado. El detalle que falta es importante: la compañía no ha revelado cuánto está pagando el cliente por esas A100 ni qué carga ejecutará.

Sin conocer el precio y la utilización resulta imposible determinar exactamente hasta qué punto es rentable prolongar su vida.

Pero el contrato cuestiona una de las suposiciones utilizadas durante el boom de infraestructura de IA: que las GPU antiguas perderán rápidamente gran parte de su valor porque cada nueva generación será muchísimo más eficiente.

Una A100 no tiene que competir necesariamente con una Blackwell en el mismo trabajo para continuar siendo rentable.

Puede destinarse a modelos más pequeños, inferencia, investigación, procesamiento por lotes, desarrollo, ajuste de modelos o cargas de computación de alto rendimiento donde sus características continúen siendo suficientes.

La situación recuerda a lo ocurrido durante décadas con los servidores convencionales. El lanzamiento de procesadores más rápidos no convirtió automáticamente cada generación anterior en residuos electrónicos. El hardware fue desplazándose hacia cargas menos exigentes o hacia mercados donde el coste tenía más peso que conseguir el máximo rendimiento posible.

La infraestructura de IA podría estar empezando a desarrollar su propia versión de ese ciclo.

El límite de las GPU antiguas puede ser el megavatio

Existe, sin embargo, una diferencia importante respecto al servidor tradicional: la electricidad se está convirtiendo en uno de los recursos más escasos de la infraestructura de IA.

Y ahí las GPU antiguas tienen un problema.

Las nuevas arquitecturas no solamente procesan más rápido. También pueden producir mucha más computación útil por unidad de energía, aunque la comparación exacta depende enormemente del modelo, la precisión, el software y la configuración del sistema.

Nvidia sostiene que sus sistemas Blackwell actuales ofrecen mejoras muy grandes frente a Hopper en determinadas cargas de inferencia. Por ejemplo, la compañía publica para GB300 NVL72 hasta 50 veces más tokens por megavatio y un coste por millón de tokens hasta 35 veces inferior frente a una plataforma Hopper en los escenarios concretos utilizados para esa comparación. Son cifras del fabricante y no deben extrapolarse a cualquier aplicación, pero muestran hacia dónde se dirige el diseño de la infraestructura.

Y Hopper ya era posterior a Ampere, la arquitectura de A100.

Eso crea una situación aparentemente contradictoria.

Una A100 completamente amortizada puede ser barata desde el punto de vista financiero y, al mismo tiempo, cara desde el punto de vista energético.

Si un centro de datos dispone de potencia eléctrica sin utilizar, mantener ese hardware trabajando puede tener sentido. Pero si tiene un límite de 100 MW y una lista de clientes esperando capacidad, cada megavatio dedicado a aceleradores antiguos tiene un coste de oportunidad.

La pregunta deja entonces de ser cuánto cuesta la GPU.

Pasa a ser cuánto trabajo o cuántos ingresos puede producir cada megavatio disponible.

Este cambio puede terminar determinando la vida útil real del hardware de IA mucho más que la edad de los servidores.

Una segunda vida para las GPU también cambia cómo financiarlas

Hay otra consecuencia menos visible.

Una GPU capaz de generar ingresos durante muchos años resulta un activo financiero diferente de otro cuyo valor se aproxima rápidamente a cero.

Los proveedores especializados en infraestructura de IA han necesitado enormes cantidades de capital para adquirir aceleradores. Parte de esa financiación utiliza las propias GPU y los contratos asociados como respaldo.

Si puede demostrarse que existe un mercado para hardware de cinco, siete o nueve años, los financiadores disponen de un activo con un valor residual potencialmente mayor.

Pero tampoco conviene llevar demasiado lejos esa conclusión.

La duración física de un acelerador no garantiza su duración económica. Los equipos pueden fallar, el mantenimiento aumenta con la edad y determinados modelos futuros podrían necesitar cantidades de memoria o características que hagan inviable utilizar generaciones anteriores.

También existe el riesgo de que el precio de alquiler caiga rápidamente.

Una A100 puede seguir funcionando perfectamente en 2029 y, aun así, dejar de tener sentido económico si el precio necesario para atraer clientes no cubre electricidad, espacio, refrigeración y operación.

La obsolescencia de una GPU de IA probablemente no tendrá una fecha universal.

Dependerá de una combinación de precio de la electricidad, disponibilidad de potencia, coste del espacio, fiabilidad, memoria, software, rendimiento requerido y precio que el mercado esté dispuesto a pagar por hora de GPU.

Eso puede generar una jerarquía de infraestructuras bastante diferente de la actual.

Los centros de datos con potencia limitada y clientes que necesitan el máximo rendimiento tenderán a concentrar las generaciones más nuevas. Otras instalaciones con electricidad disponible y hardware ya amortizado podrán seguir explotando aceleradores antiguos para cargas donde el coste sea más importante que la densidad de computación.

Incluso podría crecer un mercado secundario más especializado para servidores de IA.

Lo que está ocurriendo con las A100 de CoreWeave plantea así una cuestión importante para una industria que ha construido sus previsiones suponiendo ciclos tecnológicos extremadamente rápidos.

La GPU más nueva será casi siempre más rápida. Eso no significa que la anterior deje de tener valor.

En una industria limitada por el capital, mantener trabajando durante más años una infraestructura ya pagada puede ser extraordinariamente atractivo. En una industria limitada por la electricidad, sustituirla por hardware que produzca mucha más computación por megavatio puede resultar inevitable.

La verdadera fecha de caducidad de una GPU quizá no esté escrita en el chip. Puede estar en el precio de la electricidad y en el valor de cada megavatio del centro de datos.

Preguntas frecuentes

¿Qué es la Nvidia A100?

La A100 es una GPU para centros de datos basada en la arquitectura Ampere que Nvidia presentó en 2020. Está diseñada para inteligencia artificial y computación de alto rendimiento y existen versiones con 40 y 80 GB de memoria.

¿CoreWeave seguirá utilizando Nvidia A100 en 2029?

Según las declaraciones de su director financiero recogidas por The Wall Street Journal, CoreWeave ha firmado un acuerdo para alquilar capacidad basada en A100 que se extiende hasta 2029. La compañía no ha publicado el precio concreto del contrato.

¿Por qué puede ser rentable utilizar una GPU antigua?

Una vez completamente depreciado el hardware, puede continuar generando ingresos mientras sus costes operativos y de mantenimiento permitan ofrecerlo a un precio competitivo. Algunas cargas tampoco necesitan las prestaciones de la generación más reciente.

¿Por qué podrían retirarse GPU que todavía funcionan?

La electricidad y la capacidad del centro de datos pueden hacerlo económicamente conveniente. Cuando la potencia disponible está limitada, un acelerador moderno capaz de realizar mucho más trabajo por megavatio puede justificar sustituir hardware antiguo aunque este todavía funcione.