El crecimiento de la inteligencia artificial está abriendo una nueva batalla en los centros de datos. Ya no se trata únicamente de quién fabrica el acelerador más potente, sino de cómo conectar decenas de miles de chips y escalar la computación más allá de un único rack. Nvidia y Broadcom representan dos estrategias diferentes para resolver este problema: plataformas programables y verticalmente integradas frente a chips y redes personalizados para los grandes hiperescalares.
Nvidia quiere proporcionar prácticamente toda la infraestructura necesaria para construir una AI Factory, desde GPU y CPU hasta interconexiones, switches y software. Broadcom, por el contrario, está creciendo mediante aceleradores personalizados —frecuentemente denominados XPU— y tecnologías de networking desarrolladas para un reducido grupo de gigantes tecnológicos que manejan volúmenes suficientes para justificar sus propios diseños.
Las claves en 30 segundos
- Nvidia apuesta por una plataforma programable disponible para múltiples tipos de clientes.
- Broadcom desarrolla aceleradores personalizados junto a grandes hiperescalares.
- Los ASIC/XPU pueden optimizar rendimiento, consumo y coste para cargas muy concretas.
- Las GPU mantienen una mayor flexibilidad cuando cambian los modelos y algoritmos.
- El networking se está convirtiendo en una parte fundamental del rendimiento de los grandes clusters de IA.
- Nvidia controla buena parte de su stack mediante CUDA, GPU, NVLink, InfiniBand y Ethernet.
- Broadcom tiene una posición especialmente fuerte en switching Ethernet y silicio personalizado.
- La siguiente batalla está en conectar miles de aceleradores como si formasen un enorme sistema de computación.
- Los hiperescalares probablemente combinarán GPU de propósito general con aceleradores propios en lugar de elegir exclusivamente una arquitectura.
Dos formas diferentes de construir la infraestructura de IA
La diferencia entre Nvidia y Broadcom comienza en el propio modelo de negocio.
Nvidia ha construido un ecosistema horizontal alrededor de sus GPU. Sus aceleradores pueden terminar en AWS, Microsoft Azure, Google Cloud, Oracle Cloud, proveedores especializados, centros de supercomputación, nubes soberanas o infraestructuras privadas empresariales.
Pero vender GPU es solamente una parte de la estrategia.
Nvidia lleva años evolucionando hacia una compañía de infraestructura completa. CUDA proporciona la capa de software, mientras que tecnologías como NVLink, NVSwitch, InfiniBand y sus plataformas Ethernet permiten conectar cantidades crecientes de aceleradores.
Broadcom parte de una posición diferente.
La compañía se ha convertido en uno de los grandes protagonistas del desarrollo de ASIC y aceleradores personalizados para inteligencia artificial, trabajando directamente con algunos de los mayores operadores de infraestructura del mundo.
En lugar de vender exactamente el mismo acelerador a miles de empresas, puede colaborar con un hiperescalares para desarrollar silicio optimizado específicamente para sus necesidades.
GPU programables frente a XPU personalizados
Esta diferencia resulta fundamental para entender la batalla.
Una GPU Nvidia es una plataforma programable.
Puede utilizarse para entrenar un gran modelo de lenguaje, ejecutar inferencia, trabajar con visión artificial, desarrollar modelos científicos o probar nuevas arquitecturas que todavía no existían cuando se fabricó el chip.
Un ASIC está diseñado con un objetivo mucho más específico.
Cuando una compañía conoce perfectamente el tipo de operaciones que ejecutará a enorme escala, puede diseñar hardware eliminando componentes innecesarios y optimizando otros.
El resultado potencial es una mejora considerable en coste, consumo energético y rendimiento para esa carga concreta.
Por eso los chips personalizados tienen especial sentido para compañías como Google, Meta o los grandes desarrolladores de modelos de IA.
Cuando se despliegan cientos de miles de aceleradores, una pequeña mejora en eficiencia puede representar enormes ahorros.
La ventaja de Nvidia es la flexibilidad
La principal defensa de Nvidia frente al silicio personalizado está precisamente en la velocidad a la que cambia la inteligencia artificial.
Los modelos evolucionan extraordinariamente rápido.
Nuevas arquitecturas, técnicas de atención, formatos numéricos, sistemas mixture-of-experts y métodos de inferencia pueden modificar en pocos meses las necesidades computacionales.
Diseñar un ASIC requiere un ciclo considerablemente más largo.
Hay que definir la arquitectura, diseñar el chip, validarlo, fabricarlo y finalmente desplegarlo.
Una plataforma programable puede adaptarse mediante software a muchos de esos cambios.
Esta flexibilidad explica buena parte del éxito de las GPU en IA.
Una empresa no necesita conocer exactamente qué modelos ejecutará dentro de tres años para comprar infraestructura Nvidia hoy.
Broadcom tiene otra ventaja: los hiperescalares saben lo que necesitan
Pero el argumento funciona también en sentido contrario.
Los mayores operadores cloud ejecutan cargas a una escala que prácticamente ninguna otra organización puede alcanzar.
Cuando un hiperescalares sabe que determinado tipo de inferencia se ejecutará millones de millones de veces, optimizar específicamente el hardware empieza a resultar económicamente atractivo.
Google lleva años demostrando este planteamiento con sus TPU.
Meta desarrolla sus propios aceleradores MTIA. AWS dispone de Trainium e Inferentia. Microsoft también trabaja en silicio propio con Maia.
El crecimiento del silicio personalizado muestra que los grandes compradores de GPU tampoco quieren depender indefinidamente de una única arquitectura.
Y ahí Broadcom encuentra una enorme oportunidad.
La batalla ya no está solamente dentro del servidor
Existe además otro problema que está cambiando completamente el mercado.
Un acelerador aislado tiene una capacidad limitada.
Los modelos más grandes necesitan trabajar sobre cientos, miles o incluso decenas de miles de aceleradores simultáneamente.
Por tanto, el rendimiento del sistema depende cada vez más de cómo se comunican esos chips.
La red deja de ser simplemente el mecanismo utilizado para conectar servidores y pasa a formar parte del propio sistema de computación.
Aquí aparecen dos conceptos fundamentales: scale-up y scale-out.
Scale-up: hacer que muchas GPU funcionen como un único sistema
Scale-up consiste, simplificando, en conectar aceleradores mediante enlaces extremadamente rápidos y de baja latencia dentro de un dominio de computación estrechamente integrado.
Nvidia ha construido una posición muy fuerte mediante NVLink y NVSwitch.
Sus arquitecturas de rack permiten conectar múltiples GPU con enormes anchos de banda, haciendo que el conjunto se comporte cada vez más como un gran acelerador.
Esta estrategia alcanza una nueva dimensión con sistemas rack-scale, donde el rack completo empieza a convertirse en la unidad básica de computación.
Pero los grandes clusters necesitan ir todavía más lejos.
Scale-out: conectar miles de aceleradores
Cuando se conectan numerosos racks aparece el networking scale-out.
Tecnologías como InfiniBand y Ethernet permiten construir fabrics que comunican miles de nodos.
Nvidia dispone aquí de una posición importante gracias a la adquisición de Mellanox, que proporcionó tecnologías fundamentales de networking de alto rendimiento.
Sin embargo, Ethernet está avanzando rápidamente y Broadcom es uno de sus principales proveedores de silicio.
A medida que los hiperescalares intentan construir clusters cada vez mayores utilizando arquitecturas abiertas, Ethernet puede adquirir todavía más protagonismo.
Broadcom quiere que Ethernet escale la IA
La importancia de Broadcom no reside únicamente en sus aceleradores personalizados.
La compañía es uno de los actores fundamentales del switching para centros de datos.
Familias de chips como Tomahawk forman parte de numerosas infraestructuras cloud y permiten construir redes Ethernet con capacidades cada vez mayores.
La cuestión estratégica es si Ethernet puede asumir una parte creciente de las comunicaciones necesarias para las AI Factories gigantescas.
Si lo consigue, Broadcom podría beneficiarse independientemente de quién fabrique los aceleradores.
Un cluster puede utilizar GPU Nvidia y, al mismo tiempo, incorporar tecnologías de networking basadas en silicio Broadcom.
Por eso la relación entre ambas compañías no puede reducirse simplemente a una competición directa.
Nvidia intenta controlar el stack completo
La estrategia de Nvidia consiste precisamente en reducir esos espacios donde otros proveedores pueden entrar.
La compañía ya no quiere vender únicamente el chip.
Su propuesta abarca:
GPU + CPU + interconexión + networking + sistemas + software.
CUDA constituye probablemente el elemento más difícil de replicar.
Miles de aplicaciones, frameworks y herramientas están optimizados para el ecosistema Nvidia.
A ello se suma una creciente integración entre hardware y networking.
Esto permite a Nvidia optimizar el sistema completo en lugar de componentes individuales.
Para un cliente que quiere desplegar infraestructura de IA rápidamente, adquirir una arquitectura validada de extremo a extremo puede resultar mucho más sencillo que integrar tecnologías procedentes de numerosos proveedores.
Broadcom apuesta por la personalización
Broadcom juega otra partida.
Sus grandes clientes disponen de miles de ingenieros y pueden permitirse diseñar su propia arquitectura.
No necesitan necesariamente comprar un sistema completo.
Pueden decidir qué acelerador quieren, qué arquitectura de red utilizarán y cómo se integrará todo dentro de sus centros de datos.
Para ellos, controlar el diseño puede ser más importante que comprar una plataforma terminada.
El incentivo económico también es enorme.
A escalas de varios gigavatios, reducir incluso unos pocos puntos porcentuales el consumo energético o el coste del silicio puede representar cientos de millones de dólares.
El consumo energético está acelerando el cambio
La disponibilidad eléctrica se está convirtiendo en uno de los mayores límites para el crecimiento de la IA.
Los nuevos campus se proyectan en cientos de megavatios y algunos desarrollos avanzan hacia escalas de gigavatios.
En ese contexto, el rendimiento por vatio adquiere tanta importancia como el rendimiento absoluto.
Los aceleradores personalizados pueden resultar especialmente atractivos para inferencia, donde determinadas cargas son más predecibles y se ejecutan de forma repetitiva.
Las GPU mantienen una ventaja clara cuando la flexibilidad y la capacidad de ejecutar cargas diferentes son prioritarias.
Esto podría terminar creando una división natural.
El futuro probablemente será híbrido
La batalla Nvidia-Broadcom no tiene necesariamente que terminar con un único ganador.
Los grandes centros de datos de IA probablemente serán heterogéneos.
Las GPU programables pueden continuar dominando determinados entrenamientos, investigación y cargas que cambian rápidamente.
Los aceleradores personalizados pueden absorber progresivamente grandes volúmenes de inferencia y cargas bien conocidas.
Las CPU seguirán gestionando otras partes del sistema.
Y diferentes tecnologías de networking conectarán toda esa infraestructura.
La cuestión será qué porcentaje del gasto termina en cada capa.
El gran riesgo para Nvidia no es otra GPU
Durante años se ha buscado al competidor de Nvidia entre fabricantes capaces de desarrollar una GPU mejor.
Sin embargo, la amenaza más importante puede llegar desde otra dirección.
No hace falta sustituir completamente las GPU Nvidia.
Basta con que los mayores clientes trasladen una parte creciente de sus cargas hacia aceleradores propios.
Si Google, Meta, Amazon, Microsoft y otros gigantes utilizan progresivamente más silicio personalizado, el mercado seguirá creciendo mientras disminuye el porcentaje que necesariamente debe pasar por una GPU comercial.
Broadcom puede beneficiarse directamente de esa transición proporcionando diseño, propiedad intelectual, interconexión y networking.
Pero Nvidia tiene algo extraordinariamente difícil de replicar
Nvidia tampoco compite únicamente con especificaciones de hardware.
Compite con un ecosistema desarrollado durante décadas.
CUDA, librerías optimizadas, herramientas de desarrollo, frameworks, networking y sistemas completos reducen enormemente la dificultad de poner nueva capacidad de IA en funcionamiento.
Esta ventaja resulta especialmente importante fuera del pequeño grupo de hiperescalares capaces de diseñar sus propios chips.
Una empresa, gobierno, universidad o proveedor cloud regional difícilmente desarrollará un ASIC propio para ejecutar inteligencia artificial.
Para esos clientes, una plataforma programable continúa teniendo mucho más sentido.
La próxima guerra de la IA será por la arquitectura del centro de datos
Nvidia y Broadcom representan así dos visiones distintas del futuro.
Nvidia quiere convertir el centro de datos en una enorme máquina de computación definida por su plataforma, donde aceleradores, redes y software evolucionen conjuntamente.
Broadcom apuesta por una infraestructura donde los mayores operadores puedan construir sistemas personalizados combinando sus propios aceleradores con redes Ethernet cada vez más rápidas.
Ambas estrategias pueden coexistir.
Pero hay algo que empieza a estar claro: la siguiente fase de la carrera de la inteligencia artificial no se decidirá únicamente comparando FLOPS entre chips.
Cuando los clusters contienen decenas de miles de aceleradores, la red, las interconexiones, el consumo eléctrico y la arquitectura completa del centro de datos son tan importantes como el procesador.
La batalla ya no consiste simplemente en fabricar la GPU más rápida.
Consiste en decidir cómo se construirán las enormes máquinas que ejecutarán la próxima generación de inteligencia artificial.
