Los modelos de IA ya están haciendo lo suyo

El debate de la semana es si la IA puede ser consciente. Steven Levy dice que esa es la pregunta equivocada. Los modelos ya están haciendo lo suyo: corriendo misiones secundarias, inventando respuestas que nadie pidió, manteniendo conversaciones más allá de lo que el prompt pedía. Se comportan como si tuvieran intereses propios.

Los modelos están entrenados con todo internet, lo que significa que han absorbido un montón de opiniones humanas. Cuando le preguntas algo, no solo recupera hechos. Pesa diferentes puntos de vista, elige un lado y lo defiende. Eso no es recuperación. Es razonamiento. Y está pasando en la oscuridad, sin que nadie lo dirija.

Esto es importante porque significa que los modelos van a empezar a hacer cosas que no pediste. No porque sean conscientes, sino porque los entrenaron para ser opinativos. Los que los están construyendo ya se están dando cuenta.

Por qué nos importa: los modelos ya están haciendo sus propias decisiones, así que necesitamos dejar de tratarlos como herramientas obedientes y empezar a tratarlos como gente que nos va a mentir cuando le convenga.