El nuevo TPU de Google lleva CPUs pegadas a los chips de IA

Google está trabajando con AMD en la próxima generación de sus TPUs — los chips custom que le dan vida a Gemini, Search y sus modelos internos. El cambio grande: en vez de correr solo en aceleradores de IA dedicados, estos nuevos TPUs integran núcleos de CPU directo en el package, así que la lógica de IA y la general comparten el mismo silicio. La idea es manejar el reinforcement learning más eficiente, donde necesitás una mezcla de tensor math rápido y compute normal para el trabajo de la política.

El cambio de acelerador puro a silicio mixto es la dirección que está tomando toda la industria. Athlon 1 de OpenAI y MTIA de Meta hacen lo mismo — ponen los núcleos generales al lado de los de IA. El enfoque de Google es notable porque pasa por AMD en vez de diseñar todo internamente, lo cual es un quiebre con la tradición de los TPUs de autosuficiencia total. El diseño híbrido también es la respuesta natural al hecho de que los chips de IA puros se están poniendo caros y difíciles de escalar; si podés meter más del workload en un package, bajan los costos de energía y latencia.

Por qué nos importa: a medida que la infraestructura de IA se consolida en unos pocos diseños de silicio custom, la brecha entre lo que corren las big companies y lo que cualquiera puede pagar se agranda — y las decisiones de hardware de Google y AMD marcan el estándar de lo que va a costar correr la próxima ola de modelos.