Margaret Atwood on AI: 'Garbage in, garbage out'

Margaret Atwood tuvo un encuentro con la IA que le quedó grabado. En el Baileys Literary and Cultural Festival en Portugal, le preguntó a Claude por la serie británica de detectives Father Brown. Claude le dio una respuesta. Más tarde se dio cuenta de que estaba equivocada.

Lo que más le llamó la atención: Claude no sabía que estaba mal. Atwood lo llamó "garbage in, garbage out." El modelo armó palabras de sus datos de entrenamiento y las presentó como verdad. Sin campana de alarma interna. Sin momento de duda. Solo una respuesta segura que resultó ser incorrecta.

Este es el problema silencioso de los LLMs. No se equivocan como se equivoca una persona — una persona puede dudar, revisar una fuente, decir "espera, déjame pensar." Claude solo genera. No tiene un modelo del mundo, así que no tiene forma de saber cuándo está mintiendo. Atwood no está descartando la IA. Solo está aclarando lo que realmente hace: predice lo que sigue, no lo que es verdad.

Por qué nos importa: la gente ya está metiendo la IA en todo — desde atención al cliente hasta aplicaciones de trabajo — y la mayoría de nosotros estamos lidiando con respuestas que suenan bien pero están mal, así que saber cómo funcionan estas herramientas es parte de leer la sala ahora.