Google crea dos chips de IA nuevos para agentes y para datos sensibles

El 8tx protege los datos mientras se usan y el 8i Max junta dos chips en uno para tareas largas. Google no ha dado precios, fechas de venta ni especificaciones completas de ninguno de los dos.

Google crea dos chips de IA nuevos para agentes y para datos sensibles

Google amplía su familia de chips de inteligencia artificial TPU con dos sistemas pensados para los agentes de IA, programas que trabajan solos durante muchos pasos para completar una tarea. Son el TPU 8tx, orientado a la seguridad, y el TPU 8i Max, para textos muy largos. Ninguno tiene todavía precio, fecha de venta ni especificaciones completas.

La familia TPU 8 se presentó en abril con dos modelos: el 8t, para entrenar modelos, y el 8i, para ejecutarlos. Según Google, este enfoque modular permite fabricar sistemas especializados «en cuestión de meses y no de años». La compañía asegura tener cerca de 100 clientes, entre ellos Meta.

Dos chips en uno para textos larguísimos

El TPU 8i Max son dos chips 8i en un mismo paquete. Eso duplica la potencia teórica de cálculo y cabe el doble de chip en el mismo espacio de los armarios de los centros de datos, con más cálculo por metro cuadrado y por vatio, según Google.

La clave está en la memoria. Cuando decenas de agentes trabajan a la vez sobre un mismo programa, el chip tiene que releer constantemente mucha información guardada. Google llama a este cuello de botella «el muro de memoria». Duplicar el ancho de banda alivia el problema sin pasar a la memoria HBM4, más nueva y más cara.

Sobre el papel, el 8i Max alcanzaría unos 20,2 petaflops en FP4 (una medida de cálculo a baja precisión), 768 MB de SRAM y 17,2 TB/s de ancho de banda. El Rubin R200 de Nvidia está anunciado en 50 petaflops FP4 y el MI455X de AMD en 40. Aun así, la diferencia de potencia se estrecha.

Google ofrece además TPU Sync, una herramienta de código abierto que mueve la información temporal de los modelos fuera del chip, hasta la memoria del servidor. La compañía asegura que así se reduce en más de un 90 % el tiempo de transferencia de esos datos. También presenta Agent Compute Engine, un servicio que aparca los agentes inactivos hasta que vuelven a necesitarlos.

Lo que falta por demostrar

Google presume de las mejores cifras de precio y rendimiento en pruebas como InferenceX y AgentX. Sin embargo, los únicos resultados independientes publicados corresponden al TPU Ironwood, la generación anterior. En pruebas de SemiAnalysis de septiembre, ofreció un 50,4 % más de tokens por dólar que el B200 de Nvidia. Todavía no hay ninguna prueba de la octava generación.

Un chip para datos confidenciales

El TPU 8tx comparte el silicio del 8t, pero está optimizado para la inferencia segura y confidencial, además de para entrenamientos pequeños. Su seguridad va integrada en el hardware: aísla los datos para que nadie espíe los modelos ni la información que procesan, incluidos los pesos del modelo.

El público previsto son empresas reguladas y gobiernos. Estos clientes podrían ajustar modelos con sus propios datos o entrenar agentes sin mover la información sensible entre clústeres. Google lo resume como «ejecución segura de agentes». En abril, el Pentágono y Google habrían hablado del uso de TPU en entornos clasificados, aunque el 8tx no se menciona por su nombre.

Google ya ofrece Private AI Compute, una plataforma de TPU reforzada con protecciones comparables a un entorno de ejecución de confianza. El 8tx parece ser esa capacidad convertida en producto. Nvidia ofrece algo parecido con su NVL72, que protege como un único dominio de seguridad 72 GPU Rubin y 36 CPU Vera.

Los servidores del 8tx usan CPU AMD EPYC de quinta generación en lugar de los Axion basados en Arm del 8t. Google no explica el motivo, pero su lista de configuraciones confidenciales incluye chips AMD e Intel y ninguno con Arm.

El 8tx adopta además la red Boardfly del 8i, en lugar de la red en toro del 8t. Google asegura que reduce la latencia hasta dos veces frente al 8t, aunque no aclara qué medida utiliza. La inferencia con modelos grandes envía mensajes pequeños entre chips alejados, y cada salto añade retraso. Con Boardfly, en 1.024 chips, el máximo son siete saltos frente a los 16 de la otra red.

Preguntas sin respuesta

Faltan una tabla completa de especificaciones, la memoria HBM, el tamaño de los conjuntos de chips, la fecha de disponibilidad, los precios y los clientes de ambos sistemas. Tampoco se detalla cómo puede comprobar el cliente que la confidencialidad del 8tx funciona. Por ahora, ambos aparecen como «próximamente» en la página de TPU de Google Cloud.

Que Google entregue dos sistemas nuevos casi siete meses después de los de abril demuestra que quiere sacar hardware especializado más rápido. Ahora tiene que demostrar que funciona, con pruebas de rendimiento y una fecha en la que los equipos lleguen a los clientes.

Newsletter · gratis

La semana de la IA, en cinco minutos.

Únete a los lectores que empiezan la semana sabiendo qué pasa en la IA. Cada domingo, en tu correo.