Thinking Machines paga 65 millones al año por inferencia mientras Anthropic busca controlar 1 GW

La infraestructura de inteligencia artificial empieza a dividirse en dos modelos de adquisición muy diferentes. Thinking Machines Lab ha firmado un acuerdo de 65 millones de dólares anuales con Crusoe para ejecutar inferencia gestionada sobre un despliegue dedicado de NVIDIA HGX B200, mientras Anthropic mantiene conversaciones preliminares para alquilar hasta 1 gigavatio (GW) directamente a Stream Data Centers. La diferencia apunta a una cuestión cada vez más relevante: cuándo resulta más eficiente comprar capacidad como servicio y cuándo una compañía de IA necesita controlar una parte mayor de la infraestructura.

Las claves de la infraestructura de IA de Thinking Machines y Anthropic en 20 segundos

  • Thinking Machines Lab pagará 65 millones de dólares al año a Crusoe por inferencia gestionada.
  • El despliegue utiliza sistemas NVIDIA HGX B200 y redes Quantum-2 InfiniBand.
  • Anthropic estudia alquilar hasta 1 GW directamente a Stream Data Centers.
  • El acuerdo de Anthropic todavía está en conversaciones y su estructura no está cerrada.
  • Ambos movimientos muestran cómo los laboratorios de IA están separando cada vez más inferencia, entrenamiento, chips, centros de datos y financiación.

El contraste es interesante porque ninguna de las dos compañías está comprando exactamente lo mismo. Thinking Machines Lab está contratando un servicio de inferencia dedicado: Crusoe opera el clúster, mantiene la infraestructura y entrega un punto de acceso con condiciones de servicio. Anthropic, según las conversaciones adelantadas por The Information, estaría estudiando convertirse directamente en inquilino de instalaciones de Stream Data Centers y controlar una parte mayor de la capacidad física que utiliza.

La diferencia importa porque la inferencia tiene una característica que la separa del entrenamiento. Una vez que un modelo llega a producción, necesita capacidad informática de forma continua para responder a las peticiones de los usuarios. El coste deja de concentrarse únicamente en grandes campañas de entrenamiento y pasa también a la operación diaria de los modelos.

Thinking Machines compra la inferencia como servicio

El acuerdo anunciado por Crusoe el 23 de septiembre asciende a 65 millones de dólares anuales y cubre cargas de inferencia de producción de Thinking Machines Lab. Entre los modelos que se ejecutarán están los modelos Inkling del laboratorio, GLM 5.2 y 5.3 y variantes ajustadas por la propia compañía.

La infraestructura estará formada por un despliegue dedicado de NVIDIA HGX B200, conectado mediante NVIDIA Quantum-2 InfiniBand. Crusoe lo denomina Tailored Deployment, una configuración dedicada y respaldada por un acuerdo de nivel de servicio (SLA) que la compañía opera directamente.

Eso cambia la responsabilidad del cliente. Thinking Machines Lab no necesita encargarse directamente de montar los servidores, operar la red de aceleradores o mantener la plataforma de inferencia. Crusoe asume esa parte y el laboratorio consume la capacidad resultante.

La compañía también ha señalado que estudia ampliar el uso del servicio a inferencia por lotes para generación de datos sintéticos, un escenario diferente al de atender peticiones de usuarios en tiempo real.

Para Crusoe, el acuerdo supone además que su negocio de Managed Inference supera los 100 millones de dólares de ingresos recurrentes anuales contratados, según la propia compañía. El servicio llevaba menos de un año en el mercado.

El modelo resulta atractivo cuando un laboratorio quiere capacidad dedicada y rendimiento predecible, pero no quiere asumir toda la operación física y de software que existe debajo de un servicio de inferencia.

Anthropic estudia otro camino para llegar al gigavatio

El movimiento de Anthropic es distinto y, por ahora, debe tratarse como una negociación preliminar. The Information informó de que la compañía está en conversaciones para alquilar hasta 1 GW de capacidad informática a Stream Data Centers, desarrollador de centros de datos participado mayoritariamente por Apollo Global Management.

La información publicada señala que Anthropic podría convertirse directamente en inquilino de las instalaciones y que en ellas podrían utilizarse aceleradores de diferentes proveedores. Entre las posibilidades mencionadas aparecen las unidades de procesamiento tensorial (TPU) diseñadas por Google y Broadcom, aunque también podrían utilizarse GPU de NVIDIA u otros chips de IA. Google habría estudiado además ofrecer algún tipo de garantía financiera para el proyecto, aunque el alcance de esa posible garantía no está definido.

La escala cambia por completo la naturaleza de la operación. Según estimaciones recogidas por The Information, un despliegue de 1 GW podría requerir al menos 40.000 millones de dólares de inversión. Eso implica que una operación de estas dimensiones no depende únicamente de conseguir chips: también necesita financiación, instalaciones, energía, redes, refrigeración y contratos de largo plazo.

Además, Anthropic ya tiene acuerdos de gran tamaño con proveedores de infraestructura. En abril anunció con Amazon un compromiso de más de 100.000 millones de dólares durante diez años para tecnologías de AWS y hasta 5 GW de capacidad basada en generaciones actuales y futuras de Trainium. Anthropic también indicó que utiliza una combinación de hardware de AWS, Google y NVIDIA.

En mayo, la compañía anunció además un acuerdo con SpaceX para utilizar más de 300 MW de capacidad del centro de datos Colossus 1, junto a acuerdos con Google y Broadcom, Microsoft y NVIDIA y otros proveedores.

Por eso el posible acuerdo con Stream no significaría que Anthropic esté abandonando la nube. Más bien encajaría en una estrategia de diversificación y mayor control directo sobre la capacidad física.

La infraestructura empieza a parecerse a una operación financiera

A medida que los despliegues crecen desde cientos de megavatios hasta gigavatios, la compra de cómputo deja de ser únicamente una decisión sobre qué GPU utilizar.

Un centro de datos de IA necesita conseguir el terreno, conexión eléctrica, capacidad de generación o red, sistemas de refrigeración, servidores, aceleradores, redes de alta velocidad y financiación. También necesita contratos que permitan justificar las inversiones durante varios años.

Eso explica por qué aparecen estructuras en las que desarrolladores inmobiliarios, fabricantes de chips, proveedores de infraestructura, bancos, fondos y grandes clientes de IA pueden participar en una misma operación.

El mercado ya está utilizando mecanismos financieros para repartir ese riesgo. El Financial Times informó esta semana de que compañías como NVIDIA, Broadcom y Meta están utilizando garantías sobre el valor residual de chips y centros de datos para respaldar financiación relacionada con infraestructura de IA, con hasta 300.000 millones de dólares de exposición crediticia vinculada a estas estructuras.

No todas estas operaciones tienen la misma estructura, pero comparten un problema: la capacidad de cómputo de IA requiere inversiones iniciales enormes y los activos deben financiarse antes de que generen ingresos durante toda su vida útil.

Ahí aparece la diferencia entre los dos casos. Thinking Machines Lab está trasladando una parte importante de ese trabajo a Crusoe. El laboratorio paga por una capacidad de inferencia dedicada y Crusoe se encarga de la infraestructura subyacente.

Anthropic, en cambio, parece estar avanzando hacia una mayor participación directa en la adquisición de capacidad física. El posible contrato con Stream todavía no está cerrado, por lo que no se puede afirmar que la compañía vaya a controlar finalmente 1 GW ni qué hardware terminará instalado.

La tendencia que muestran ambos movimientos es más concreta: la infraestructura de IA se está desagregando. Entrenamiento e inferencia pueden contratarse de formas diferentes; los chips pueden proceder de distintos fabricantes; los centros de datos pueden ser propiedad de terceros; y la financiación puede estructurarse separadamente del contrato de computación.

Para laboratorios que operan modelos a gran escala, esa flexibilidad puede ser tan relevante como el rendimiento de cada acelerador. La pregunta ya no es únicamente cuántas GPU necesita un modelo, sino quién financia el centro de datos, quién opera los servidores, quién asume el riesgo de capacidad y qué parte de la infraestructura quiere controlar directamente el cliente.

Preguntas frecuentes

¿Cuánto pagará Thinking Machines Lab a Crusoe?

El acuerdo anunciado el 23 de septiembre asciende a 65 millones de dólares anuales para ejecutar cargas de inferencia de producción mediante Crusoe Managed Inference.

¿Qué hardware utilizará Thinking Machines Lab?

Las cargas se ejecutarán en un despliegue dedicado de sistemas NVIDIA HGX B200 conectados mediante NVIDIA Quantum-2 InfiniBand. Crusoe operará directamente el clúster.

¿Anthropic ha firmado ya el acuerdo de 1 GW con Stream Data Centers?

No. La información disponible habla de conversaciones preliminares para alquilar hasta 1 GW de capacidad. La estructura, el volumen definitivo y el hardware todavía no están cerrados.

¿Por qué Anthropic quiere controlar directamente más infraestructura?

El posible acuerdo permitiría a Anthropic tener una relación más directa con instalaciones de centros de datos y capacidad informática. La compañía mantiene al mismo tiempo grandes acuerdos con AWS, Google, NVIDIA, Microsoft y otros proveedores, por lo que el movimiento encaja con una estrategia de capacidad diversificada.

encuentra artículos

newsletter

Recibe toda la actualidad del sector tech y cloud en tu email de la mano de RevistaCloud.com.

Suscripción boletín

LO ÚLTIMO