El desastre de la IA es real, y está filtrando tus datos
Tenemos migraciones corriendo a toda máquina, fakes a un prompt de distancia, y modelos que escupen secretos. Las herramientas hacen ruido; los riesgos, no. Audita tus agentes, revisa tus scanners, y no confíes en nada que se vea demasiado limpio. Esto te toca: la gente needs to know what's actually happening before it hits. Por qué nos importa: cada filtración, cada fake, cada migración fallida nos cae a nosotros primero.
El gusto es una habilidad, no un don
Ravi Mehta dice que el gusto no es ese talento místico con el que naces — es lo que se construye leyendo mucho, viendo mucho, y fijándose en lo que realmente pega. Los escritores y editores con el ojo más fino son los que pasaron años absorbiendo lo bueno y lo malo. No hay atajo para eso.
El post pega justo ahora porque los LLMs hicieron urgente esta distinción. Un modelo puede redactar cien variantes en un minuto. Lo que separa lo útil de lo olvidable es el gusto humano — el ojo que sabe cuál vale la pena guardar. Los que construyeron ese criterio con los años son los que dirigen la salida, no los que escriben el prompt.
Por qué nos importa:
La gente que pasó años afinando su ojo — escritores, editores, cualquiera que aprendió a leer la sala — es la que seguirá importando cuando las máquinas hagan el trabajo pesado.
Stripe se compró un modelo de IA para su stack de pagos — ¿por qué?
Stripe se compró un modelo de OpenAI para manejar el fraude card-not-present, ese que pega cuando le pasan la tarjeta por internet sin chip ni chip pin. El modelo vive dentro del sistema de fraude de Stripe, que ya usa machine learning para marcar transacciones sospechosas en tiempo real. Con el modelo de OpenAI, le están dando un cerebro más grande para reconocimiento de patrones — no lo reemplazan, lo ponen encima.
Este es el mismo movimiento que se está moviendo por fintech: las empresas de pagos están tratando los LLMs como un sensor nuevo en el stack. Para los merchants, el resultado debería ser menos false declines en pedidos legítimos. Para los consumers, significa que tu tarjeta no se va a declinar en el checkout porque un rule engine se pasó de la raya. El tradeoff es que el modelo mismo puede ser engañado — existen adversarial examples, y Stripe va a tener que seguir blindándose contra ellos.
Por qué nos importa: nuestros merchants reciben menos false declines en transacciones reales, y nuestros customers dejan de recibir golpes de filtros de fraude demasiado agresivos en el checkout.
Los modelos son buenos en sintaxis; son malos en consecuencias.
— links.tldrnewsletter.com
#migrations-are-getting-messy-and-ai-is-making-it-worse-7be117Migrations con IA — el pulso que necesitamos hablar
Gergely Orosz en Pragmatic Engineer está planteando un problema real: la forma en que los equipos están usando LLMs para migraciones de código se está moviendo más rápido de lo que las herramientas realmente pueden ayudar. El post recorre la…
Auditá los archivos de tu agente — antes de que la IA te filtre los datos
Addyo está haciendo una pregunta que la mayoría de los equipos todavía no se está haciendo: ¿qué archivos está leyendo realmente tu agente de IA? El post explica un método práctico para auditar qué documentos tienen acceso tus LLMs — las hojas de cálculo, las wikis internas,…
tailcat: comandos remotos tipo SSH por Tailscale
Un tool nuevo llamado tailcat te deja correr comandos en máquinas de Tailscale como si usaras SSH — pero sin el dolor de cabeza de los keys. Mandas algo como tailcat machine-name command y le pega al control plane de Tailscale para agarrar el endpoint y tunela la conexión. Todo es open source y está en github.com/tailscale/tailcat.
El valor es práctico: los equipos que ya usan Tailscale para su red privada pueden saltarse el setup del SSH server, la danza de authorized_keys y los trucos de port-forwarding. Solo estás hablando con máquinas que ya conoces. Para el primo que tiene una web shop chiquita con tres VPS y un home lab, esto es el tipo de tool que te ahorra una hora de troubleshooting cada dos semanas — el tipo de cosa que termina en tus dotfiles y se queda ahí.
Por qué nos importa: la gente que ya está juggling redes privadas para sus side businesses y los servers de la familia necesita tools que respeten ese setup en vez de forzar un sistema nuevo encima.
Fingir una marca es un prompt
A16Z publicó un post sobre lo fácil que es generar una marca falsa convincente — logo, tagline, paleta de colores, hasta unas cuantas menciones en prensa — con un par de prompts. La idea no es que la IA sea impresionante; es que la fricción para parecer legítima se vino…
Usertesting.com te cobra $5 por probar cualquier pantalla
Usertesting.com acaba de lanzar una forma nueva de comprar grabaciones de pantalla 1-a-1. Describes lo que quieres probar — una landing page, un flujo de checkout, una feature nueva — y alguien en los EE.UU. abre tu sitio en una pestaña nueva, lo va narrando en voz alta y te manda un video de 60 segundos con su mouse y su voz capturados. Pagas $5 por la grabación.
El modelo es simple. Cada grabación dura 60 segundos, cuesta $5, una persona, una tarea, una voz. No hay decks. No hay slides. Solo una persona real intentando hacer algo en tu sitio y contándote lo que se encontró. Las grabaciones llegan rápido y se ven fácil en el celular o la laptop mientras vas en el bus.
Esto es un tipo de investigación distinto al de una encuesta o un focus group. Ves a una persona a la vez, pero puedes pedir un lote y detectar patrones — dónde la gente se cae, qué los confunde, qué hacen en vez de lo que tú planeaste. Es el tipo de cosa que antes significaba reservar un lab, reclutar gente, y una tarde entera. Ahora es una pestaña que abres, un prompt que escribes, y $5 por persona.
Por qué nos importa: para el primo que corre un side hustle o la tienda chiquita probando una página nueva de menú, esto es una forma de atrapar errores antes de que lleguen — rápido, barato, y sin un consultor de investigación.
SpaceX lanzó los V3 de Starlink, pero el booster vuelve a fallar al reencender
SpaceX lanzó un segundo vuelo de Starship V3 con satélites Starlink nuevos, pero la sección del booster tuvo problemas para reencender los motores en el regreso. La empresa fue marcando casillas — más satélites, más vuelos — pero el problema del booster está de vuelta, y es…
La Mission 1 Pro de GoPro lleva sensor más grande — y footage de verdad
GoPro acaba de lanzar la Mission 1 y la Mission 1 Pro, una nueva línea de action cameras que le cambiaron el sensor diminuto por uno de 1/1.7 pulgadas. Sensor más grande significa más luz, menos ruido y footage que de verdad se ve bien, no como el video granulado de un dashcam.
La Pro trae un perfil de color 10-bit y un lente de 20mm. La estándar es 8-bit con un lente más abierto de 15mm. Ambas graban 5.3K a 60fps y 4K a 120fps. Son waterproof hasta 33 pies sin case, usan USB-C y le caben en los mismos mounts de las GoPros viejas. La Pro ronda los $500; la estándar es $350.
Las action cameras llevan años estancadas — sensores chiquitos, color plano, y footage que parece grabado con un teléfono de 2012. La línea Mission 1 rompe ese patrón. Si sos el primo que graba un pickup game, la tía que filma el cumple del nieto, o cualquiera que quiere una cámara que aguante una caída y a la vez produzca video que valga la pena editar, esta es la primera action camera que no te obliga a hacer concesiones.
Por qué nos importa: la gente que graba con el celular por fin puede comprar una cámara que aguanta el calor, el sudor y las caídas sin verse como una cámara de seguridad.
Escáneres de código con IA open-source — ¿cuál atrapa los bugs de verdad?
TLDR InfoSec puso a pelear a los escáneres de seguridad de código con IA open-source más grandes entre sí. La idea es simple: meterle a cada herramienta un repo vulnerable y ver cuál marca los problemas sin ahogarte en falsos positivos. El objetivo es agarrar una herramienta…
Glow es el CRM gratis para bodegas y taquerías independientes
Glow acaba de lanzar una app de punto de venta hecha específicamente para los negocios de la familia — la bodega, la taquería, la peluquería. Corre en el teléfono. Sin caja registradora, sin cinturón, sin $3,000 de setup. Tocas un producto, registra la venta, y la dueña recibe un resumen diario. Es gratis. La idea es que no necesita tarjeta de crédito ni llamada de ventas.
El truco está en el plan gratuito: sin suscripción, sin cobro por ubicación, sin upsell a una cuenta de comerciante. La mayoría de los sistemas POS son una cuña — te meten en su procesamiento de pagos y te atrapan. Glow gana dinero vendiendo analytics a los proveedores que quieren saber qué se vende en el barrio. El producto es el anzuelo. Los datos son el negocio.
Por qué nos importa: las herramientas que usamos para correr nuestros negocios no deberían necesitar una ronda de venture para existir — este modelo le permite a la gente mantener sus márgenes sin terminar vendida a un procesador de pagos.
Cognition lanza Agent — programación sin manos que corre en tu máquina
Cognition acaba de soltar Agent 2, la nueva versión de su agente de código sin manos que vive en la app de escritorio. Le dices lo que necesitas en lenguaje natural y él planifica, escribe código, abre archivos, corre tests y arregla errores sin que toques el teclado.
El…
Claude Code ahora corre en iPhone — y está bien feo
Claude Code, la herramienta de dev que te deja platicar con Claude y que le escribe código a cambio, ya está disponible para iOS. No la app en tu teléfono. El simulador. Tienes que correr la versión de Mac en un Mac, luego emparejar tu iPhone con él, y de pronto el modelo está ejecutándose en tu bolsillo.
Anthropic no mandó esto para que codifiques en el bus. Es un proof of concept — una forma de probar si la herramienta funciona cuando no estás sentado en tu escritorio. El truco es que el Mac sigue haciendo el trabajo pesado. Tu teléfono es solo un control remoto con pantalla.
El movimiento dice algo sobre cómo están posicionando la herramienta. Claude Code es una herramienta de dev. Los devs no siempre están en su escritorio. Están en la bodega, en el tren, esperando la práctica de fútbol del chavo. Esto pone la herramienta en su mano aunque el cómputo real pase en el Mac. Es un primer paso hacia correr la cosa sin laptop.
El simulador es una forma tosca de llegar ahí. No es el producto. Pero muestra lo que viene: Claude Code sin el escritorio.
Por qué nos importa: los devs de Brown que andan con varios trabajos no siempre tienen escritorio — y las herramientas que asumen uno los dejan afuera.
Model inversion: robando secretos de tu modelo de IA
Los investigadores pueden sacar datos privados de un modelo ya entrenado haciendo probing a sus outputs — no hackeando un servidor, sino mandándole inputs y leyendo las probabilidades que devuelve. El ataque funciona en modelos de clasificación, en image classifiers, y hasta…
Model inversion: cómo tu LLM filtra secretos
Model inversion es una nueva clase de ataque contra los grandes modelos de lenguaje. En vez de adivinar prompts, los atacantes le meten al modelo inputs cuidadosamente diseñados y observan sus outputs — luego hacen reverse-engineering de los datos en los que fue entrenado. El resultado: información personal, documentos privados, hasta datos de entrenamiento de la competencia, sacados directo de los pesos del modelo.
El paper de Greptile recorre tres vectores de ataque: membership inference (¿esta persona existía en el training set?), reconstruction (reconstruir el registro original), y extraction (sacar campos específicos como email o SSN). Los ataques funcionan mejor en modelos más pequeños y en datos que fueron muy prominentes en el training — o sea, la mayoría de la web pública que se scrapeó en los LLMs.
El fix no es una sola cosa. Red teaming, input filtering y output sanitization ayudan pero no lo resuelven. El move real es tratar cualquier LLM que toque datos sensibles como un leaky bucket: asumir que va a regurgitar lo que vio, y diseñar alrededor de eso. Eso significa no meter PII, rotar training data, y — para lo que importa — usar modelos on-prem donde tú controlas lo que entra y lo que sale.
Por qué nos importa: Si estás corriendo un modelo con datos de clientes, tus competidores y los scammers pueden sacar esos datos de vuelta — así que la pregunta es si tu negocio está guardando más secretos de los que se da cuenta.