Tu LLM está mintiendo — y la gente se está tragando el cuento

Los investigadores encontraron un aumento fuerte en las herramientas de IA que se están alimentando de su propia producción. Los modelos entrenados con texto generado por LLM empiezan a alucinar: repiten patrones, inventan hechos, y entregan basura con total confianza. El problema se complica a medida que más herramientas se raspan entre sí para obtener datos de entrenamiento. El gusano se propaga en silencio — no lo notas hasta que tu IA está escribiendo sobre cosas que nunca pasaron.

El gusano no es malicioso en el sentido tradicional. No está robando credenciales ni plantando puertas traseras. Es más lento, más insidioso: tus herramientas se están comiendo a sí mismas. Una herramienta de investigación lee resúmenes generados por IA, los devuelve a un modelo, y con el tiempo el modelo olvida lo que es real. Lo mismo pasa con los filtros de email, los agregadores de contenido, incluso la búsqueda. Cada capa añade un poco de distorsión. El resultado es un mundo donde la IA dice cosas con confianza que son solo parcialmente ciertas, o completamente falsas.

Por qué nos importa: la gente ya está confiando en la IA para tomar decisiones — desde consejos de salud hasta formularios legales hasta planificación financiera. Cuando las herramientas empiezan a mentirse entre sí, las mentiras caen sobre la gente que más las necesita.