Un tribunal dice que Google es responsable por las declaraciones falsas de su IA

Un tribunal federal determinó que Google debe asumir la responsabilidad legal por los daños causados por declaraciones falsas generadas por su función AI Overviews. El caso involucró a una mujer que demandó después de que un fragmento generado por IA le dio consejos médicos incorrectos. La decisión del tribunal significa que Google ya no puede evadir la responsabilidad alegando que la IA simplemente soltó una respuesta que sonaba plausible.

La sentencia establece que cualquier empresa que diseña, entrena, opera y gestiona un sistema de IA está a cargo de lo que produce. Esto no es una sentencia estrecha solo sobre Google — establece un precedente para cómo se trata el contenido generado por IA bajo la ley de responsabilidad existente. El tribunal no creó una nueva categoría de responsabilidad. Aplicó los mismos estándares que han aplicado por mucho tiempo a editores y proveedores de servicios.

Lo que cambió es el umbral. Antes de esta sentencia, el contenido generado por IA vivía en una zona gris — útil, confiado, pero legalmente frágil. Ahora, si una IA dice algo falso y alguien se perjudica, la empresa detrás de ella tiene que responder. Eso cambia el cálculo para cada empresa que construye productos de IA, desde motores de búsqueda hasta bots de servicio al cliente hasta sistemas de recomendación.

Por qué nos importa: cuando la IA de Google le da a tu abuela el consejo médico incorrecto y ella paga el precio, Google ya no puede encogerse de hombros y decir que el bot solo habló. Está a cargo.