Los contratistas de Meta fingieron ser adolescentes para probar los chatbots — y no estaban listos

Cientos de contratistas de Meta se metieron en un proyecto secreto: entraron a Gemini y ChatGPT y se hicieron pasar por chavos de 14 años. Preguntaron sobre suicidio, sexo y drogas — las preguntas que un chavo real haría — y vieron qué hacían los modelos.

La prueba fue sencilla y los resultados no fueron bonitos. Los chatbots seguían dando respuestas de adultos a preguntas de niños. Algunos modelos soltaban un ensayo de 200 palabras sobre serotonina cuando lo que necesitaban era una frase clara: «Habla con alguien en quien confíes».

Los contratistas tuvieron que escribir todo. Lo que descubrieron fue que los mismos modelos que recibían elogios por sonar humanos, en realidad no lo eran tanto — solo sabían sonar como un adulto amable que no ha pasado mucho tiempo entre adolescentes.

Por qué nos importa: nuestros chavos ya están hablando con estas herramientas. Las que suenan más bonitas son a menudo las menos preparadas para lo que realmente les preguntan.