--- title: "Google libera TorchTPU para ejecutar PyTorch de forma nativa en sus TPU" description: "Google publica como código abierto TorchTPU, desarrollado con Meta, para llevar cargas de PyTorch a sus TPU con cambios mínimos y escalar hasta miles de chips Ironwood." url: https://revistacloud.com/google-torchtpu-codigo-abierto-pytorch-nativo-tpu/ date: 2026-10-21 modified: 2026-10-21 author: "Antonio" image: https://revistacloud.com/wp-content/uploads/2026/09/Ironwood_superpod_tpu.jpeg categories: ["Noticias", "Cloud"] tags: ["CUDA", "google", "google cloud", "inferencia", "Ironwood", "Kubernetes", "Meta", "open source", "PyTorch", "TPU"] type: post lang: es --- # Google libera TorchTPU para ejecutar PyTorch de forma nativa en sus TPU **Google ha publicado como código abierto TorchTPU, la pila que permite ejecutar PyTorch de forma nativa en sus TPU, los aceleradores de IA que alquila en Google Cloud.** Lo anunció el 20/10/2026 durante la PyTorch Conference 2026. El proyecto, desarrollado junto al equipo de PyTorch de Meta, está en GitHub con licencia Apache 2.0, y Google sostiene que con él las TPU pasan a ser una opción de hardware nativa de PyTorch, como ya lo son las GPU y las CPU. **Las claves de TorchTPU en 20 segundos** - Google abre TorchTPU con licencia Apache 2.0, desarrollado con el equipo de PyTorch de Meta. - Ejecuta PyTorch en TPU con cambios mínimos de código, en modo eager o con torch.compile. - vLLM, SGLang, Hugging Face, Ray y llm-d ya lo integran. - Google habla de escalado casi lineal hasta 8.192 TPU Ironwood. El anuncio, firmado por Mark Lohmeyer, vicepresidente y director general de infraestructura de IA y computación de Google Cloud, y por Bill Jia, vicepresidente de ingeniería, apunta a uno de los frenos clásicos para usar TPU: la mayoría de los equipos de IA trabajan en PyTorch, mientras que el software de Google para sus chips ha girado tradicionalmente en torno a JAX y TensorFlow. Para quien compra capacidad en la nube, la pregunta es si se puede mover una carga a otro acelerador sin reescribirla. ## Qué cambia frente a PyTorch/XLA Hasta ahora, la vía para usar PyTorch en TPU era PyTorch/XLA, que el blog de desarrolladores de Google describe como el predecesor de TorchTPU y que solo admitía código SPMD puro (el mismo programa en todos los nodos). TorchTPU se integra en PyTorch a través de la interfaz PrivateUse1, la que el framework reserva para backends de hardware externos, de modo que los tensores en TPU son tensores de PyTorch normales, sin envoltorios ni subclases. El flujo de trabajo que propone Google es depurar en modo eager, operación a operación, y pasar después a `torch.compile` para producción. En ese segundo paso, TorchTPU captura el grafo con TorchDynamo y lo compila con XLA en lugar de con TorchInductor, el compilador por defecto de PyTorch. Según Google, hay además un modo eager con fusión automática de operaciones que ofrece entre un 50 % y más de un 100 % de mejora frente al eager estándar. Para entrenamiento distribuido admite DDP, FSDPv2 y DTensor, y permite usar kernels propios escritos en Pallas o JAX. La versión publicada en PyPI es la 0.2.0, que requiere Python 3.11 o posterior y se instala con pip. Google remite a su documentación de PyTorch en TPU para empezar. ``` pip install torch_tpu==0.2.0 --extra-index-url https://download.pytorch.org/whl/cpu ``` ## Escalado en Ironwood y la pila de inferencia en GKE Las cifras de rendimiento que da Google proceden de sus propias pruebas. Con TorchTitan, la implementación de referencia de PyTorch para entrenamiento distribuido, la compañía afirma haber alcanzado un 52 % de utilización de FLOPs del modelo (MFU) entrenando Qwen 3 8B, con escalado casi lineal y estable hasta 8.192 TPU Ironwood (TPU v7x), la generación que [Google presentó para inferencia a gran escala](https://revistacloud.com/google-estrena-ironwood-tpu-v7-y-nuevas-vms-axion-inferencia-a-escala-planetaria-y-costes-a-la-baja/). Las recetas de TorchTitan incluyen modelos como Llama 3 de 70.000 y 405.000 millones de parámetros, Qwen 3 235B con arquitectura MoE y FLUX.1 12B. En inferencia, Google ha desarrollado backends nativos para vLLM, junto a Inferact, y para SGLang, junto a RadixArk. Por encima está llm-d 1.0, un proyecto en fase Sandbox de la CNCF en el que participan Red Hat, IBM y más de 500 colaboradores de 25 organizaciones, que añade enrutado consciente de la caché de prefijos y separación de las fases de prefill y decode. En GKE, el servicio de Kubernetes de Google Cloud, permite servir modelos en GPU o en TPU detrás de un mismo punto de acceso. Como ejemplo, Google cita a Zenteiq.ai, que según su fundador ha multiplicado por más de cuatro el rendimiento agregado de inferencia con GKE Inference Gateway y llm-d, pasando de 1.470 a 5.970 millones de tokens diarios por cada 1.000 aceleradores TPU v6e. Ray, el orquestador de Anyscale, también admite ya TorchTPU para repartir cargas entre CPU, GPU y TPU. ## Una alternativa a CUDA, con matices El movimiento tiene una lectura clara en el mercado de aceleradores. Buena parte de la ventaja de NVIDIA está en CUDA y en que PyTorch funciona mejor en sus GPU que en cualquier otra cosa. Las TPU ya compiten en precio y rendimiento, como se contó al analizar [cómo las TPU de Google desafían a NVIDIA](https://revistacloud.com/tpu-google-desafian-nvidia/), pero el software seguía siendo una barrera. Meta, que usa las TPU de Google, tiene interés en no depender de un único proveedor. La directora de ingeniería de PyTorch en Meta, Jana van Greunen, sostiene en el anuncio que la compañía no puede verse limitada por una sola arquitectura de hardware y que TorchTPU le permite desplegar sus cargas de PyTorch en TPU para modelos de lenguaje, anuncios y sistemas de recomendación. Quedan cosas por demostrar fuera de las pruebas de Google. Su propio plan de trabajo incluye reducir las recompilaciones cuando cambian la longitud de secuencia o el tamaño de lote, añadir soporte completo de formas dinámicas en torch.compile y ampliar la biblioteca de kernels precompilados. Son problemas conocidos de los compiladores basados en XLA y pesan en cargas de inferencia muy variables. Además, TorchTPU solo sirve para las TPU de Google, que se usan a través de Google Cloud, así que la portabilidad que ofrece es entre GPU y TPU dentro de PyTorch, no entre nubes. ## Preguntas frecuentes ### ¿Qué es TorchTPU? Es la pila de software de Google para ejecutar PyTorch de forma nativa en sus TPU. Se ha publicado como código abierto con licencia Apache 2.0 y se ha desarrollado junto al equipo de PyTorch de Meta. ### ¿Sustituye TorchTPU a PyTorch/XLA? Google describe PyTorch/XLA como su predecesor. TorchTPU se integra en PyTorch como un backend nativo, aunque Google no ha anunciado formalmente la retirada de PyTorch/XLA. ### ¿Qué rendimiento ofrece TorchTPU? Según Google, un 52 % de MFU entrenando Qwen 3 8B con TorchTitan y escalado casi lineal hasta 8.192 TPU Ironwood. Son cifras de la propia compañía. ### ¿Se puede usar TorchTPU fuera de Google Cloud? El software es abierto, pero solo funciona en TPU de Google, que se contratan a través de Google Cloud. Fuentes: - [Google Cloud: TorchTPU is now open source, run native PyTorch on TPUs](https://cloud.google.com/blog/topics/ai-infrastructure/torchtpu-is-now-open-source-run-native-pytorch-on-tpus) - [Google Developers Blog: TorchTPU, running PyTorch natively on TPUs at Google scale](https://developers.googleblog.com/en/torchtpu-running-pytorch-natively-on-tpus-at-google-scale/) - [GitHub: google-pytorch/torch_tpu](https://github.com/google-pytorch/torch_tpu) - [Google Cloud: PyTorch en TPU (documentación)](https://cloud.google.com/tpu/docs/pytorch-on-tpu)