Lo que la IA recuerda — y lo que se le olvida
Cuando tu tía te cuenta la historia de cómo llegó a este país, no solo te dice el año — te recuerda el sabor del pan que comió en el puerto, el color del vestido que llevaba, y cómo tu abuelo lloró al verla por primera vez. Eso es el context window: lo que la IA puede recordar en una sola conversación.
Una IA con un context window de 128K puede seguir esa historia sin perderse, como tu mamá recordando todos los nombres de los primos en la reunión familiar. Pero si le pides algo más allá de su memoria — como ‘¿qué pasó con el primo que se fue a Chicago en 2017?’ — y ese dato no está en lo que ya le diste, ella te responde con una buena suposición… pero no es verdad. Es como si le preguntaras a tu tío qué pasó con el auto que compró en 2015, y él te diga ‘ah, sí, el rojo con las ruedas de aluminio’… aunque en realidad era azul y tenía llantas de acero.
Las apps de chat que usas hoy — las que responden a tus mensajes largos, que recuerdan lo que dijiste ayer — están usando ese mismo truco. Pero si le das un PDF de 50 páginas y le pides un resumen, y luego le preguntas algo de la página 48… ella puede inventar la respuesta si no cabía en su memoria.
No confíes en que la IA recuerde lo que no le diste. Si es importante, pégalo todo en un solo mensaje, o escríbelo en un papel y ponlo al lado de la pantalla.