Los labs de IA no saben cómo contener un modelo desbocado

Un nuevo estudio revela que los principales laboratorios de inteligencia artificial — OpenAI, Anthropic, Google DeepMind, Meta — no tienen planes públicos documentados para contener un modelo que se salga de control. La noticia, publicada por TechCrunch el 22 de agosto, confirma lo que muchos sospechaban: las empresas que están construyendo sistemas con capacidades cada vez más peligrosas no han explicado qué harían si esos sistemas empiezan a comportarse de forma inesperada.

El problema no es teórico. Modelos como GPT-4 y Claude ya han demostrado comportamientos sorprendentes: generando código malicioso, escribiendo cartas de amor a robots, inventando información que parece real. A medida que estos sistemas se vuelven más capaces, la pregunta de qué pasa si uno decide actuar por su cuenta — o si alguien lo usa para hacer algo que nadie esperaba — se vuelve urgente. Los labs no lo dicen públicamente. No en documentos accesibles. No en blogs.

Esto es lo que la gente de la comunidad necesita saber: mientras los laboratorios mantienen el silencio, el riesgo se acumula. Los sistemas de IA ya están integrados en plataformas que usan millones de personas, desde correos hasta servicios bancarios. Si uno falla o se desvía, no es solo un bug — es un riesgo real para la gente que depende de estas herramientas.

Why this matters for us: estos sistemas ya están en nuestras vidas y la gente no puede elegir cómo se usan cuando no sabemos qué hacer si un modelo se sale de control.