Top-p sampling: cómo la IA elige sus palabras

Top-p, o nucleus sampling, es una forma en que una IA elige la siguiente palabra en una oración. En lugar de elegir entre todas las palabras posibles de su vocabulario, reduce el campo.

Así es como funciona. La IA mira todas las palabras que cree que podrían venir a continuación y le asigna una probabilidad a cada una. Luego suma esas probabilidades, empezando por la más probable, hasta que el total llega a un número fijo — usualmente 0.9 o el 90 por ciento. Se queda solo con esas palabras. El resto las descarta. La IA luego elige de ese grupo más pequeño.

Piénsalo como cuando tu tía te pide ayuda para elegir un restaurante para la cena del domingo. Hay cien lugares en la ciudad. Ella no quiere que consideres cada uno. Dice: "Los que tienen buena comida y están cerca, los otros no." Ella está recortando la lista a los mejores 90 por ciento de opciones. Luego tú eliges de esa lista corta. Eso es top-p.

Por qué nos importa: si estás escribiendo con una IA y empieza a sonar demasiado repetitiva o demasiado salvaje, ajusta el número top-p. Bájalo para mantener las cosas más ajustadas. Súbelo para más variedad. Es una perilla, no un interruptor. Pruébalo la próxima vez que redactes algo y quieras que la salida se mantenga en camino sin sonar robótica.