AMD y Cerebras se unen para inferencia rápida de IA

Cerebras y AMD anunciaron una nueva alianza que combina los chips Wafer-Scale Engine 2 de Cerebras con las GPUs MI300X de AMD. El objetivo es simple: servir modelos de IA con menos latencia y mayor throughput de lo que cualquiera lograría solo.

El WSE-2 es un chip de 46,000 mm² con 940,000 núcleos y 4 GB de SRAM por núcleo — sin cuello de botella de DRAM. La MI300X de AMD trae 192 GB de HBM3e. Juntas cubren distintas partes de la carga de inferencia: el WSE-2 maneja los passes pesados en cómputo, la MI300X se encarga de los pesados en memoria. La alianza se entrega como una plataforma de inferencia combinada.

Por qué nos importa: la gente que corre modelos locales en casa se beneficia cuando chips como el WSE-2 y el MI300X compiten por precio y rendimiento — más opciones, menos dependencia de un solo proveedor.