RLHF: Cómo la IA aprende a tener sentido común

Ya viste esos chatbots que alucinan — los que inventan un abogado falso, una ley falsa o el nombre de la tía de alguien. RLHF es la solución. Significa Reinforcement Learning from Human Feedback (Aprendizaje por Refuerzo con Retroalimentación Humana). Aquí te explico cómo funciona, en términos bien claros.

Primero, la IA se entrena con una montaña de texto — libros, foros, recetas, tweets. Aprende patrones. Pero no tiene sentido real de qué es útil, seguro o verdadero. Es como un chavo que se memorizó todo el menú de la bodega pero nunca ha cocinado un solo platillo.

Así que entran los humanos. Se llaman annotators — usualmente contratistas de Filipinas, Kenia o Latinoamérica, que ganan unos cuantos dólares por hora. Leen las respuestas de la IA y las califican. ¿Cuál fue más precisa? ¿Cuál fue menos dañina? ¿Cuál realmente ayudó al usuario? Esas calificaciones se convierten en la guía de la IA