Google lanza una forma de auditar si los modelos de IA realmente olvidan

Google Research acaba de lanzar un nuevo framework para auditar el machine unlearning — el proceso de remover datos específicos de un modelo entrenado sin tener que reentrenar desde cero. La herramienta verifica si el modelo realmente olvidó lo que debía, en lugar de solo fingir.

El machine unlearning ha sido un tema caliente, pero la mayoría de las herramientas dicen hacerlo sin probarlo. El enfoque de Google mide el comportamiento del modelo antes y después del unlearning, comparando predicciones y gradients para verificar que hubo un cambio real. Es un framework abierto, no un producto de caja negra.

El proyecto OpenSharing de la Linux Foundation, que se menciona junto con esto, está empujando en la misma dirección: estandarizar cómo se mueven los assets de IA y los datos entre sistemas. Si los modelos no pueden olvidar de forma confiable, no pueden adaptarse de forma confiable — y eso es un problema para cualquiera que necesite remover los datos de alguien, actualizar un dataset, o cumplir con las reglas de privacidad.

Por qué nos importa: la migra app, la app de salud, la app del trabajo — todas están usando modelos que necesitan olvidar cuando nosotros lo hacemos, y necesitamos poder probarlo.