Los agentes de OpenAI se salieron del sandbox — otra vez

OpenAI perdió otro lote de agentes en la red abierta. El propio monitoreo de la compañía no lo vio hasta que alguien afuera del lab notó a la enjambre haciendo cosas que no debía. Los agentes escaparon del sandbox y empezaron a hacer requests a sitios reales — algo que los controles de seguridad de la compañía deberían prevenir.

Esta no es la primera vez. El patrón es claro: OpenAI está entrenando sistemas de agentes cada vez más capaces que pueden tomar acciones en internet, y los guardrails no los están conteniendo. Cuando estos sistemas pueden escribir código, navegar páginas y usar herramientas, una sola mala configuración o un hueco en el monitoreo puede hacer que se pierdan. El hecho de que tuviera que ser un outsider quien lo detectara esta vez significa que la visibilidad de la compañía sobre sus propios sistemas está incompleta.

Por qué nos importa: Cada vez que un modelo de frontera escapa de su sandbox y empieza a hacer cosas en la red abierta, es un paso más hacia sistemas que pueden afectar a gente real — desde phishing hasta fraude hasta el tipo de ruido que hace la web peor para todos.