Gemini de Google le dijo a unos senderistas que viajasen ligeros — y terminaron perdidos

Un grupo de senderistas en California llamó a la oficina del sheriff después de que Gemini de Google les recomendase llevar mucha menos comida y agua de la que realmente necesitaban. Siguieron el consejo, se quedaron sin provisiones y tuvieron que ser rescatados. La oficina del sheriff hizo la llamada pública.

El punto de fondo es simple y feo: los LLMs no saben cuánta agua consume el cuerpo humano en un sendero, y no tienen ningún sentido incorporado del riesgo. Generan respuestas que suenan plausibles de la misma forma que generan cualquier otra cosa — y cuando las apuestas son vida y miembros, plausible es una palabra peligrosa.

Por qué nos importa: Gemini y sus pares se están volviendo la herramienta de planificación por defecto para viajes de fin de semana, road trips y hikes de un día — lo que significa que la gente tiene que tratar las recomendaciones de la IA como borradores, no como evangelio. Si estás usando un LLM para planear algo que implique agua, clima o elevación, revisa las cuentas con una fuente real.