Cómo funcionan los transformers — sin el buzz

La forma vieja de procesar texto era como leer un libro página por página, de izquierda a derecha. Cada palabra tenía su turno antes de que llegara la siguiente. Funcionaba — hasta que el libro se hacía tan largo que el principio empezaba a olvidarse.

Los transformers tiran esa regla línea por línea. En vez de eso, miran todas las palabras a la vez y preguntan: ¿cuánto importa cada palabra a las demás? La palabra "it" en la tercera oración puede apuntar a la tercera palabra de la primera. El modelo descubre esas conexiones sin leer nada en orden.

Piensa en un grupo de familia en WhatsApp. Alguien suelta una foto y dice "miren esta." La mitad de las respuestas hacen referencia a esa foto aunque no repiten la palabra. Ese es el mecanismo de atención — el modelo aprende qué palabras le prestan atención a cuáles, sin importar la distancia. La palabra "primos" al final puede seguir hablando con la palabra "tienda" del principio.

Por eso la palabra "transformer" importa para los transformers — es el nombre de la arquitectura, no de la máquina. La palabra también se usa para una pieza del auto que transfiere poder del motor a las ruedas. Misma idea: algo que mueve lo que necesitas a donde va.

Los ves por todas partes ahora — en el modelo que escribe tus emails, el que traduce de español a inglés, el generador de imágenes que convierte tu prompt en una foto. Todos usan el mismo truco central: miran todo a la vez, ponderan las conexiones, y dejan que las importantes ganen.

Lo que cambió fue la escala. Las matemáticas existían antes, pero necesitaban mucha data y mucho compute para funcionar de verdad. Ahora que tenemos ambas, el truco se convirtió en el motor.

Tip: cuando alguien dice que un modelo es "attention-based," ese es el transformer — palabras que le prestan atención entre sí, no al revés.