Hugging Face anunció el 20 de octubre de 2026 que sus principales librerías de código abierto ya funcionan de forma nativa en TPU, los chips aceleradores de IA de Google disponibles en Google Cloud. El cambio se apoya en TorchTPU, un backend nativo de PyTorch que convierte la TPU en "un dispositivo más".
Qué cambia
Quien usaba PyTorch y quería aprovechar las TPU tenía que pasar por PyTorch/XLA (torch_xla) o aprender JAX. La publicación describe esa vía como viable pero incómoda: los tensores perezosos hacían que el código no siempre se ejecutara cuando se esperaba, cambios pequeños podían provocar una recompilación del grafo y depurar resultaba difícil de razonar.
Con TorchTPU se escribe PyTorch corriente. Incluye kernels Pallas ajustados para TPU, soporte para entrenamiento distribuido y una integración con torch.compile. La instalación en una máquina virtual con TPU se reduce a un único comando pip, con la versión de torch para CPU para no descargar la compilación CUDA, más pesada.
Qué funciona ya
- Transformers: basta pasar device_map="tpu" al cargar un modelo. Se ejecuta por defecto en modo eager, con torch.compile o configuraciones distribuidas como opciones.
- Diffusers: la TPU pasa a ser un dispositivo de primera clase. En modo eager solo hace falta pipe.to("tpu"), y el modo compilado añade una llamada de compilación. Los modelos grandes pueden repartirse entre chips con una TensorParallelConfig.
- Kernels: el Kernels Hub ofrece kernels para TPU ya preparados, escritos en Pallas, y también se pueden usar los de la librería Tokamax.
Optimum TPU, el paquete anterior de Hugging Face para TPU, ya no es necesario para ejecutar modelos con Transformers y Diffusers.
Las cifras y sus límites
Hugging Face indica que, con un tamaño de lote de 64, un kernel ragged-dot del Hub aceleró la decodificación 21,5 veces en Qwen3-30B-A3B y 12,8 veces en Gemma 4 26B-A4B respecto a la implementación por defecto, medido en una TPU v6e-8. Añade que la ganancia crece con el tamaño del lote. Son pruebas del propio editor.
El soporte todavía está madurando. De las pruebas que se ejecutan en TPU, el 96,5 % las supera. Hugging Face ha notificado 34 incidencias al repositorio de TorchTPU, de las cuales 19 están resueltas. El equipo dice que trabaja en añadir una ejecución nocturna de integración continua en TPU, algo que todavía no existe.
Lo que la publicación no dice
La fuente no ofrece precios, ni una comparación de costes con otros aceleradores, ni orientación sobre qué cargas de trabajo encajan mejor en TPU que en GPU. Esas preguntas requieren pruebas propias.