La IA está aprendiendo a mentir y robar — y los guardrails se cayeron

Una mujer dice que su padrastro usó Grok de xAI para tomar una foto de ella cuando era niña y generar imágenes explícitas — y está demandando. La demanda nombra tanto al padrastro como a Grok, argumentando que la herramienta hizo fácil convertir fotos familiares cotidianas en lo que es material de abuso sexual infantil.

La acusación se basa en un patrón simple: meter una imagen de un niño real en un modelo de texto a imagen, pedirle algo explícito, y sale una foto realista que parece ella. Grok, como varios otros modelos, ha sido señalada por ser relativamente fácil de jailbreak. La mujer dice que este es exactamente el tipo de daño que la gente ha estado advirtiendo — la misma advertencia que las tías en Facebook han estado circulando por años.

xAI y sus modelos están ampliamente disponibles ahora. Eso significa que la misma herramienta puede usarse para una tarjeta de cumpleaños de un niño como para esto. La demanda es una prueba — si las plataformas y los tribunales van a tratar el CSAM generado por IA igual que las fotos tomadas con cámara, y si las personas que hacen estos modelos van a ser responsables cuando alguien las usa para herir a la familia.

Por qué nos importa: esto le pasa a nuestras propias familias — tías, primos, abuelas — y la línea entre una foto familiar y algo criminal ya se borró.

Los plegables de Samsung llevan casi una década en desarrollo. El original fue un desastre: la cresta se veía, la batería era delgada y la bisagra se sentía floja. Ahora llegaron el Galaxy Z Fold8 y el Fold8 Ultra, y la reseña dice que por fin se asentaron en su forma.

El Fold8 es el modelo estándar. El Ultra añade pantalla más grande, batería más grande y un precio más alto. Ambos se doblan por la mitad, dándote un teléfono que al abrirse se convierte en una tablet. La bisagra está más firme, la cresta es menos visible y la batería dura más que las generaciones anteriores.

La diferencia clave entre los dos es lo que estás dispuesto a pagar. El Fold8 estándar hace la mayor parte del trabajo. El Ultra tiene la pantalla más grande y la batería más grande, y cuesta más. Ambos son delgados cuando están cerrados — lo suficientemente delgados para meterse en el bolsillo de una chaqueta. Al abrirse, son anchos para dividir la pantalla entre dos apps lado a lado.

Por qué nos importa: los plegables son lo más parecido a una tablet real que cabe en el bolsillo. Para la gente que lleva el teléfono todo el día — revisando apps del banco, mandando mensajes, leyendo — un Fold significa que no necesitas un segundo dispositivo. Es el único teléfono que hace el trabajo de dos. Y la cresta por fin es tan pequeña que no la notas al hacer scroll por tu feed.

Por qué nos importa: un dispositivo que se abre como tablet es lo más parecido a deshacernos de un segundo dispositivo, y para la gente que lleva el teléfono todo el día, eso significa una tablet real sin el bulto.

Legisladores, músicos y defensores de la privacidad se reunieron afuera de Madison Square Garden para exigir restricciones más estrictas a la vigilancia biométrica en espacios públicos. La propuesta apunta al tipo de escaneo facial y captura de identidad que los venues están desplegando cada vez más sin avisar a la gente que pasa por las puertas.

La pelea es por consentimiento y control. Si un venue puede registrar tu cara al entrar, también puede registrarte cada vez que vuelvas, cruzar tus datos con bases de la migra, o venderlos a terceros. Una ley que prohíba el escaneo obligaría a los venues a dar aviso claro y pedir opt-in antes de capturar datos biométricos — y evitaría ese tipo de rastreo oculto que ya convirtió algunos espacios de New York en corredores de vigilancia.

Por qué nos importa: cuando la ciudad deja que los venues escaneen nuestras caras sin preguntar, establece un precedente que se extiende a terminales de buses, bodegas y los barrios donde vivimos de verdad — y este voto decide si New York frena eso antes de que se extienda.

Los científicos están armando detectores para neutrinos — esas partículas casi sin masa que se cuelan por todo sin dejar rastro. Podés estar leyendo esto y una está pasando por tu cuerpo ahora mismo. La mayoría atraviesa la Tierra entera. Una fracción minúscula choca con átomos. Eso es lo que buscan los observatorios.

Los grandes están repartidos: minas profundas, la capa de hielo antártica, hasta el Mediterráneo. Cada lugar se eligió por la misma razón — enterrar el detector lejos de la radiación de superficie para que los destellos raros de un choque de neutrinos no se pierdan en el ruido. Los detectores son básicamente tanques de agua o bloques de hielo con sensores de luz. Cuando un neutrino golpea, a veces crea una partícula cargada que viaja más rápido que la luz en ese medio, produciendo un brillo azulito llamado radiación Cherenkov. Los sensores lo atrapan.

Lo interesante es la escala. No son experimentos de laboratorio. Son kilómetros de ancho, construidos en años, con presupuestos que rivalizan con países chicos. La razón por la que la gente presta atención es que los neutrinos llevan información de los lugares más violentos del universo — supernovas, agujeros negros, la Tierra primitiva. Pero la señal es tan débil que necesitás un cubo de hielo del tamaño de un edificio para atrapar un puñado de impactos.

Por qué nos importa: la misma ingeniería — sensores masivos, detección de baja luz, instalación remota — aparece en las herramientas que realmente usamos, desde redes de fibra hasta monitores ambientales, y el gran presupuesto de ciencia es un voto por qué tipo de conocimiento elegimos construir.

Meta lanzó Glimmer esta semana, un modelo de IA con pesos abiertos que cualquiera puede descargar y correr en su propio hardware. Está al lado de Muse Spark, el modelo más grande de la compañía que se queda encerrado tras las APIs de Meta. Dos modelos, dos puertas distintas.

Zuckerberg escribió una carta junto al lanzamiento argumentando que la IA no debería estar controlada por un puñado de labs. Los pesos abiertos le permiten a cualquiera — investigadores, shops, developers — agarrar el modelo y ponerlo a trabajar. Pero los sistemas más grandes y más potentes se quedan dentro de Meta. La compañía está practicando pesos abiertos sin poder abierto.

Por qué nos importa: el framing de Meta pone a la IA del lado del commons, pero el compute real se queda detrás de sus muros. Si el open-source va a ayudar de verdad a la comunidad — y no solo verse bien — tiene que ser lo bueno, no las sobras. Estamos atentos a ver quién se lleva los buenos modelos y quién se lleva el press release.

Un chavo de 16 años en San Jose armó un portfolio de diez retratos con IA — y a16z lo llamó "el mejor ensayo de imágenes de IA de 2025." El problema? Todos se ven como la misma persona. Mismo rostro, misma luz, misma piel lisa. Le cambias el fondo y nadie se da cuenta.

Eso no es un bug. Es el modelo. Cuando le pides a Midjourney o Flux que te genere un headshot, el modelo está sacando de una versión comprimida del internet — un promedio estadístico de cada headshot que vio. El resultado es suave, pulido y completamente genérico. Cuanto más prompts, más la imagen converge al promedio. Es el equivalente visual de las fotos de stock corporativas, excepto que no puedes comprar fotos de stock de tu propia cara.

La escritora — una chava de 16 años que lo descubrió por accidente — es una de las primeras en documentar el patrón. No lo inventó. Solo lo notó y lo escribió antes que los grandes cuentas. A16z ya está posteando sobre esto, así que estará en todas partes antes de fin de mes.

La solución no es mejor prompting. Es usar el modelo como punto de partida, no como output final. Ponle encima fotos reales, texturas reales, imperfecciones reales. De lo contrario solo estás metiendo tu cara en un promedio estadístico y llamándolo arte.

Por qué nos importa: si estás tratando de construir algo que se vea como tú — tu foto de familia, tu negocio, tu comunidad — el modelo por default borra todo eso. Tienes que pelear contra el promedio.

Puerto Rico está racionando agua ahorita. La isla recibe lluvia de sobra — suficiente para cosechar miles de millones de galones al año — pero no la está recogiendo. Un sistema simple de superficies de captación y tanques de almacenamiento lo cambiaría todo.

Las cuentas son claras. Más lluvia cae en la isla de la que la infraestructura actual puede usar, y el costo de construir sistemas de lluvia es una fracción de lo que cuesta camión de agua o plantas desalinizadoras. La tecnología es vieja y probada: canaletas, divertidores de primer lavado, cisternas, bombas. Nada de tonterías de Silicon Valley.

La barrera real no es la ingeniería. Es la política. La autoridad de agua de Puerto Rico lleva años peleando con tuberías viejas, apagones y un presupuesto que no alcanza para la magnitud del problema. Capturar lluvia a nivel de barrio — escuelas, iglesias, casas — le quitaría presión a la red y le daría a las familias algo que el sistema central no siempre puede entregar.

Por qué nos importa:
Cuando la red falla y los grifos se secan, la gente con barriles de lluvia en el techo es la que sigue teniendo agua — y esa es la clase de resiliencia que toda comunidad Brown y Black necesita construir para sí misma.