RAG: Cuando los LLMs dejan de inventar y empiezan a buscar
Los LLMs son buenos para hablar. Pero son pésimos para saber qué pasó el martes pasado en tu barrio. No tienen memoria de tu vida ni copia de las actas del concejo municipal. Solo predicen la siguiente palabra, lo que significa que van a inventarse una historia y sonar convincentes haciéndolo.
RAG es la solución. Le das al modelo un fragmento de texto real —un PDF, una fila de base de datos, el memo del delegado sindical— y le dices que responda usando solo eso. La parte de retrieval busca los docs correctos. La parte de generation escribe la respuesta. La guardrail es simple: si la fuente no lo cubre, el modelo lo dice en vez de inventar algo.
Piensa en cómo tu tío maneja una pregunta en la reunión de la familia. No finge que sabe el nombre de cada hijo de cada primo. Le pregunta a la abuela. Hojea el álbum de fotos. Responde desde lo que realmente tiene. Eso es RAG —el modelo revisando su material de referencia antes de abrir la boca.
Por qué nos importa: los registros del gobierno, los contratos sindicales, los avisos de renta y el papeleo de negocios pequeños están encerrados en PDFs que nadie quiere leer. RAG te permite hacer preguntas en lenguaje natural y obtener respuestas sacadas de los documentos reales en vez de de la imaginación de un chatbot.
Prueba con una herramienta gratuita y dale un PDF real —tu contrato de renta, un recibo de pago, una carta de la HOA— y haz una pregunta que solo ese documento puede responder.