Hecho: anuncio en el blog de Google de dos nuevos sistemas de su octava generación de TPUs: TPU 8tx, optimizado para «inferencia segura y confidencial», y TPU 8i Max, diseñado para ventanas de contexto masivas y la mayor densidad de cómputo por rack. Con esta dupla, Google dice que es la primera vez que introduce cuatro sistemas TPU en un solo año: 8t y 8i se presentaron en Google Cloud Next de abril, y ahora se suman 8tx y 8i Max.
TPU 8tx (inferencia confidencial): es el tercer sistema de la generación y está pensado para «empresas reguladas y gobiernos» que corren modelos frontera o propietarios junto a sus datos más sensibles. Normalmente los datos se cifran al guardarse o viajar por la red, pero hay que abrirlos en memoria mientras la computadora los procesa; 8tx, construido sobre el mismo silicio del 8t y con procesadores AMD EPYC de quinta generación como host, «construye la seguridad directamente en la capa de hardware», manteniendo datos y pesos de modelo protegidos e aislados incluso en uso activo. Google afirma que, al adoptar la red Boardfly de baja latencia, 8tx logra hasta 2 veces menos latencia que 8t con una penalidad casi nula de performance, y que permite fine-tuning con datos privados y entrenamiento de agentes por refuerzo sin migrar datos sensibles entre clusters.
TPU 8i Max (la pared de memoria): Google tomó dos chips 8i de baja latencia y los combinó en un solo paquete, lo que entrega el doble de cómputo, el doble de SRAM y el doble de ancho de banda de memoria HBM que el 8i. Al caber el doble de silicio en el mismo espacio de rack, los data centers pueden desplegar más potencia de cómputo por metro cuadrado y por vatio. El objetivo declarado es el cuello de botella que aparece cuando «docenas de agentes de IA trabajan juntos sobre todo un código fuente o horas de video a la vez».
Cifras de la generación (del fabricante): Google presentó en abril el 8t para entrenamiento a gran escala y el 8i para razonamiento en tiempo real, con hasta 2,7 veces mejor performance de entrenamiento y 80% mejor relación precio-performance de inferencia frente a la generación anterior. Con los dos nuevos, el catálogo queda en 8t (entrenamiento), 8i (razonamiento de baja latencia), 8tx (computación confidencial) e 8i Max (contexto masivo). En la página de TPUs de Google Cloud, 8tx y 8i Max figuran como «coming soon».
Contexto: Google dice que los TPUs son «un negocio en rápido crecimiento» con casi 100 clientes, entre laboratorios frontera, firmas de trading, retailers y universidades, y que el diseño se hace con DeepMind: desde AlphaChip hasta Gemini para entregar layouts de chips en horas en vez de semanas. Ambos sistemas se mostraron en la transmisión en vivo; TechPowerUp replicó el comunicado del 9 de noviembre. La nota es de lanzamiento: aún no hay fecha de disponibilidad general publicada para los dos nuevos sistemas.




