La herramienta de IA de Google Earth duró un día

Google lanzó el jueves una herramienta que te permitía editar fotos satelitales con prompts de texto. Escribías lo que querías y la IA cambiaba la imagen.

Funcionó por un día. Luego Google la apagó.

La herramienta usaba un modelo llamado Nano Banana 2. Podías convertir una calle en una playa o agregar cualquier cosa al cielo. Era básicamente un generador de deepfakes para el mundo real.

Henk van Ess de Digital Digging la probó. Agregó refugiados cerca de la frontera mexicana. Agregó un cráter de bomba cerca de un hospital en Gaza. Estaba probando los límites, no haciendo propaganda.

La primera respuesta de Google dijo que las imágenes tenían una marca de agua digital. Dijeron que bloqueaban "la creación de imágenes sobre temas dañinos". Ese es el problema. ¿Quién decide qué es dañino? No puedes pedirle a la IA que juzgue su propia salida.

Luego Google cambió su declaración. La herramienta se fue.

Todo el experimento duró menos de 24 horas. Una herramienta que podría remodelar la realidad para cualquiera con un teclado fue retirada antes de que la mayoría ni siquiera supiera que existía.

Así es como se mueven estas herramientas. Lanzan, alguien las empuja, la empresa entra en pánico y la herramienta desaparece. Sin transparencia. Sin proceso. Solo una función que existió y luego no.

Las personas que se quemaron con esto — las comunidades que fueron representadas o mal representadas en esas imágenes generadas por IA — no tienen voz. La herramienta se construyó, probó y mató antes de que la mayoría de la gente de Brown supiera que existía.

Por qué nos importa: Cuando una herramienta que puede alterar la realidad de nuestros barrios se retira sin aviso, nuestras comunidades pierden la oportunidad de resistir o moldear cómo estos sistemas nos representan.