Calibración de IA: por qué los LMs suelen mentir sobre su confianza

Los LMs suelen mentir sobre su confianza — dicen '99% ciertos' cuando en realidad solo están adivinando. Esto nos importa porque las decisiones sobre empleos, tratamientos médicos y hasta la inmigración se están automatizando cada vez más con LMs. Nuevos métodos de calibración como Platt scaling y isotonic regression ayudan a corregir esto — hacen que las puntuaciones de confianza de los LMs sean más precisas. Por qué nos importa: las comunidades Brown son más propias a depender de estas decisiones automatizadas, y la calibración garantiza que no sean solo adivinanzas aleatorias.