Los Mac mini y Mac Studio se han convertido en una pieza inesperada de la infraestructura utilizada por algunos de los mayores laboratorios de inteligencia artificial. OpenAI habría comprado decenas de miles de ordenadores de Apple para trabajos relacionados con aprendizaje por refuerzo y agentes capaces de utilizar ordenadores, mientras Anthropic estaría alquilando Mac mini a través de Amazon Web Services (AWS). Al mismo tiempo, la demanda también alcanza a los equipos compactos basados en NVIDIA, lo que apunta a un mercado creciente para ejecutar IA fuera de los grandes clústeres tradicionales de GPU.
Las claves de los Mac como infraestructura de IA en 30 segundos
- OpenAI habría adquirido decenas de miles de Mac mini y Mac Studio para aprendizaje por refuerzo y desarrollo de agentes.
- Anthropic también estaría utilizando Mac mini alquilados mediante AWS.
- La memoria unificada permite a CPU y GPU acceder a un mismo gran espacio de memoria, una característica interesante para ejecutar modelos localmente.
- Apple acaba de renovar Mac mini y Mac Studio con los chips M6, M5 Max y M5 Ultra.
- La demanda muestra que determinados trabajos de IA pueden ejecutarse de forma eficiente en hardware diferente de los grandes aceleradores de centros de datos.
La información procede de The Information, que cita a personas familiarizadas con las operaciones de OpenAI y Anthropic. No existe por ahora una confirmación pública de OpenAI sobre el número exacto de equipos adquiridos ni sobre el importe de las operaciones, así que las cifras deben considerarse información periodística y no datos comunicados oficialmente por la compañía.
La tendencia resulta especialmente interesante porque estos ordenadores no pretenden sustituir a los grandes clústeres de GPU utilizados para entrenar los mayores modelos fundacionales.
Su atractivo aparece en otra parte del proceso: agentes, aprendizaje por refuerzo, inferencia local, desarrollo y cargas que necesitan mucha memoria pero no necesariamente la potencia de un acelerador de centro de datos de gama alta.
Por qué un laboratorio de IA puede querer miles de Mac
La principal ventaja técnica de Apple Silicon para determinadas cargas de inteligencia artificial se encuentra en su arquitectura de memoria unificada.
En un ordenador convencional con una GPU dedicada, la CPU utiliza su memoria principal y la GPU dispone normalmente de su propia VRAM. Los datos deben trasladarse entre ambas cuando una aplicación necesita utilizarlos en uno u otro procesador.
Apple utiliza una arquitectura diferente.
CPU, GPU y otros aceleradores del SoC pueden acceder a un espacio común de memoria. Para determinadas cargas esto permite disponer de una cantidad de memoria accesible por la GPU difícil de encontrar en una estación de trabajo convencional con una única tarjeta gráfica.
El nuevo Mac Studio presentado por Apple el 25 de agosto lleva este planteamiento bastante más lejos. Su configuración con M5 Ultra puede alcanzar 512 GB de memoria unificada y 1,2 TB/s de ancho de banda, además de integrar hasta 36 núcleos de CPU y 80 de GPU.
Eso no convierte al Mac Studio en equivalente a un servidor equipado con aceleradores NVIDIA de centro de datos.
Son plataformas diferentes.
Las GPU profesionales para IA ofrecen CUDA, formatos numéricos especializados, interconexiones diseñadas para grandes clústeres y un ecosistema de software construido durante años alrededor del entrenamiento y la inferencia acelerada.
Pero existe otro problema cada vez más relevante: hacer que el modelo quepa en memoria.
Un modelo suficientemente grande puede necesitar decenas o cientos de gigabytes únicamente para cargar sus pesos. La cuantización permite reducir esa cantidad, pero la memoria continúa siendo uno de los principales límites para ejecutar grandes modelos localmente.
Ahí un sistema compacto con cientos de gigabytes de memoria unificada puede resultar interesante.
| Característica | Mac con Apple Silicon | GPU dedicada convencional | Acelerador de centro de datos |
|---|---|---|---|
| Memoria | Unificada entre CPU y GPU | RAM + VRAM separadas | HBM dedicada |
| Capacidad accesible por GPU | Puede ser muy elevada | Limitada por VRAM de la tarjeta | Elevada según acelerador |
| Consumo | Relativamente contenido | Variable | Generalmente elevado |
| CUDA | No | Sí, con NVIDIA | Sí, con NVIDIA |
| Uso local | Muy sencillo | Sencillo/moderado | Poco habitual |
| Grandes clústeres | Limitado | Posible a pequeña escala | Diseñado para ello |
| Modelos locales grandes | Especialmente interesante con mucha memoria | Limitado por VRAM | Excelente, con mayor coste |
| Agentes sobre macOS | Ventaja para pruebas del entorno Apple | No aplicable | No es su finalidad principal |
Esta última característica puede ayudar a entender el interés de OpenAI.
Según The Information, los equipos se están utilizando para aprendizaje por refuerzo y entrenamiento de agentes capaces de interactuar con ordenadores.
Un agente de este tipo necesita observar interfaces, abrir aplicaciones, manipular archivos, navegar por páginas web y aprender a completar tareas reales.
Disponer físicamente del entorno sobre el que se quiere entrenar o evaluar el agente puede ser útil.
OpenAI no sería la única interesada
El fenómeno tampoco estaría limitado a OpenAI.
The Information asegura que Anthropic está utilizando Mac mini mediante infraestructura alquilada en AWS. La información resulta llamativa porque AWS es uno de los mayores proveedores mundiales de infraestructura cloud y dispone de sus propios aceleradores de inteligencia artificial.
Pero AWS también ofrece instancias basadas en hardware Mac para determinadas cargas.
El interés de Anthropic reforzaría la idea de que estos sistemas no se están comprando simplemente como sustitutos económicos de las GPU NVIDIA.
Existe una carga específica para la que resultan adecuados.
La publicación estadounidense señala además que están apareciendo compañías que construyen infraestructura cloud utilizando exclusivamente hardware de Apple, anticipando una mayor demanda de Mac alojados en centros de datos.
El concepto tiene una peculiaridad.
Apple abandonó hace años su negocio de servidores Xserve y no comercializa actualmente una plataforma equivalente a los servidores tradicionales utilizados en centros de datos.
Los Mac mini y Mac Studio son ordenadores de escritorio.
Eso obliga a los operadores que quieren desplegarlos a gran escala a resolver cuestiones físicas y operativas que un servidor convencional ya incorpora de fábrica: montaje, alimentación, networking, gestión remota, refrigeración y sustitución de equipos.
Aun así, el mercado está encontrando formas de utilizarlos.
Apple acaba de proporcionar todavía más memoria
El momento coincide además con una renovación importante de Apple Silicon.
Apple presentó el 25 de agosto el M6, su primer procesador fabricado con tecnología de 2 nanómetros, junto con el nuevo M5 Ultra.
El M6 equipa el nuevo Mac mini y dispone de una CPU de 12 núcleos, GPU de 12 núcleos con Neural Accelerators, dos Neural Engine de 16 núcleos y hasta 170 GB/s de ancho de banda de memoria unificada.
Para IA local resulta todavía más interesante el M5 Ultra del Mac Studio.
Apple utiliza una nueva generación de UltraFusion para construir por primera vez uno de sus procesadores Ultra mediante una arquitectura de cuatro dies. El resultado puede alcanzar 36 núcleos de CPU y 80 de GPU, con los mencionados 512 GB de memoria unificada y 1,2 TB/s de ancho de banda.
Apple orienta expresamente esta máquina hacia cargas profesionales y de inteligencia artificial.
Según las propias pruebas del fabricante, el nuevo Mac Studio puede proporcionar hasta 4,3 veces más rendimiento en determinadas cargas de IA respecto a generaciones anteriores. Como siempre ocurre con benchmarks del fabricante, estas cifras dependen de las aplicaciones y configuraciones utilizadas y no deben interpretarse como una mejora universal.
La cantidad de memoria resulta probablemente más importante para este mercado que muchos de esos porcentajes.
Una estación de trabajo compacta con medio terabyte de memoria accesible por la GPU permite experimentar con modelos que anteriormente exigían configuraciones bastante menos convencionales.
NVIDIA también quiere ese mercado
El interés por los Mac coincide con la apuesta de NVIDIA por llevar su arquitectura de IA a equipos mucho más pequeños.
DGX Spark fue una primera demostración clara.
En lugar de pensar únicamente en servidores con varias GPU de elevado consumo, NVIDIA desarrolló una plataforma de sobremesa basada en el superchip GB10 Grace Blackwell, con memoria unificada y capacidad para ejecutar modelos de IA localmente.
La similitud conceptual con algunas ventajas de Apple Silicon es evidente: mucha memoria accesible por CPU y GPU dentro de un sistema compacto y con un consumo razonable.
The Information asegura que NVIDIA considera a Apple uno de sus principales competidores en este emergente mercado de IA local.
Esto no significa que Apple esté amenazando el negocio de aceleradores para centros de datos de NVIDIA.
Son órdenes de magnitud y mercados diferentes.
NVIDIA continúa dominando el entrenamiento de grandes modelos y dispone de un ecosistema CUDA difícil de replicar. Los sistemas Blackwell y sus sucesores están diseñados además para escalar mediante interconexiones de muy alta velocidad entre grandes cantidades de aceleradores.
La competencia aparece más abajo.
Estaciones de trabajo, servidores pequeños, desarrolladores, agentes locales, inferencia privada y modelos que necesitan bastante memoria pero no un rack completo de aceleradores.
Ahí Apple Silicon puede competir utilizando una arquitectura que originalmente fue diseñada para ordenadores personales.
La escasez de memoria está complicando el fenómeno
Existe una paradoja detrás de esta nueva demanda.
Precisamente cuando los Mac con grandes cantidades de memoria resultan atractivos para la IA, la propia expansión de la inteligencia artificial está tensionando el mercado mundial de memoria.
Los grandes centros de datos están absorbiendo enormes cantidades de HBM y DRAM. Los fabricantes están priorizando productos de elevado margen destinados a aceleradores y servidores, mientras los principales compradores firman acuerdos de suministro con varios años de antelación.
El resultado está afectando también al mercado de ordenadores.
The Information señala que algunas configuraciones avanzadas de Mac mini y Mac Studio han sufrido problemas de disponibilidad durante los últimos meses y que determinadas empresas ya están considerando alternativas debido a esas restricciones.
Apple acaba de responder con nuevas generaciones de ambos productos, aunque la demanda determinará si puede suministrarlos al ritmo que necesitan los compradores profesionales.
La propia evolución de las ventas proporciona una pista.
En el trimestre de junio, los ingresos de la división Mac alcanzaron 10.400 millones de dólares, un crecimiento interanual cercano al 29 %, convirtiéndose en el área de producto de Apple que más creció durante ese periodo.
No todo ese crecimiento procede de la IA, naturalmente.
Pero la demanda de desarrolladores y empresas está adquiriendo suficiente relevancia para que Apple esté promocionando de manera mucho más explícita las capacidades de IA local de sus ordenadores.
De comprar GPU a comprar cualquier cómputo útil
El fenómeno deja una lectura más amplia para el mercado tecnológico.
Durante los primeros años del auge de la IA generativa, prácticamente cualquier discusión sobre infraestructura terminaba hablando de GPU NVIDIA.
Eso está empezando a cambiar.
Las grandes compañías siguen necesitando enormes clústeres de aceleradores para entrenar modelos de frontera. Pero alrededor de esos modelos están apareciendo muchas otras cargas: inferencia, agentes, aprendizaje por refuerzo, evaluación, generación de datos sintéticos, desarrollo y experimentación.
No todas necesitan exactamente el mismo hardware.
Un centro de datos puede utilizar aceleradores NVIDIA para entrenamiento, chips propios para inferencia y sistemas basados en Apple Silicon para determinadas tareas relacionadas con agentes.
Incluso los modelos abiertos permiten cada vez más elegir dónde ejecutar la inferencia según coste, privacidad, memoria disponible y rendimiento necesario.
Eso explica por qué decenas de miles de Mac pueden tener sentido para OpenAI sin que la compañía deje de invertir simultáneamente cantidades enormes en infraestructura de GPU.
El Mac mini y el Mac Studio están encontrando un uso que probablemente Apple no imaginaba cuando comenzó la transición desde Intel hacia sus propios procesadores.
La memoria unificada que inicialmente ayudaba a mejorar eficiencia y rendimiento en un ordenador personal resulta ahora especialmente adecuada para una industria donde uno de los principales problemas consiste en mover y alojar cantidades gigantescas de parámetros.
Los Mac no van a sustituir a los grandes clústeres de IA.
Pero que OpenAI esté comprándolos por decenas de miles muestra algo quizá más interesante: la infraestructura de inteligencia artificial está empezando a diversificarse y ya no todo el cómputo útil tiene que parecerse a un servidor tradicional lleno de GPU.
Preguntas frecuentes
¿Cuántos Mac habría comprado OpenAI?
The Information informa de que OpenAI ha adquirido decenas de miles de Mac mini y Mac Studio. OpenAI no ha confirmado públicamente una cifra exacta.
¿Para qué utiliza OpenAI los Mac mini y Mac Studio?
Según la información publicada, los sistemas se emplean en aprendizaje por refuerzo y desarrollo o entrenamiento de agentes capaces de interactuar con ordenadores.
¿Por qué los Mac son interesantes para ejecutar modelos de IA?
Apple Silicon utiliza memoria unificada accesible por CPU y GPU. Las configuraciones con mucha memoria permiten ejecutar localmente modelos que podrían superar la VRAM disponible en muchas GPU convencionales.
¿Pueden los Mac sustituir a las GPU NVIDIA para entrenar grandes modelos?
No son plataformas equivalentes. NVIDIA mantiene ventajas importantes para grandes clústeres gracias a sus aceleradores, CUDA e interconexiones específicas, mientras los Mac resultan especialmente interesantes para determinadas cargas locales, agentes, desarrollo e inferencia.
Fuente: wccftech
