Google lanza un nuevo método para auditar el machine unlearning

Google Research acaba de publicar un nuevo framework para verificar si los modelos de IA realmente olvidaron lo que se les pidió que olvidaran. El machine unlearning — la práctica de remover datos específicos de un modelo entrenado — se supone que es la respuesta de la tech al "right to be forgotten." El problema: ¿cómo demuestras que funcionó? El framework de Google te da una forma de verificar, no solo de reclamar.

Por qué nos importa: cada vez que una empresa dice que borró tus datos, el framework de Google es una de las herramientas que puede verificar de verdad si lo hizo.

El framework define lo que significa "unlearning" matemáticamente, y luego provee un método de prueba que compara el modelo original contra el unlearned. Si el modelo unlearned se comporta como si el dato nunca hubiera estado ahí, ya tienes la prueba. Es un cambio de "confíen en nosotros" a "aquí está cómo verificar."

Por qué nos importa: el right to be forgotten es tan bueno como nuestra capacidad de verificarlo, y este framework hace posible esa verificación.

Por qué nos importa: mientras los modelos de IA se comen más de nuestros datos personales, la capacidad de demostrar que se borraron se convierte en una herramienta real para la gente que no tiene abogados de Silicon Valley en su equipo.