Inteligencia bruta — y por qué es la ventaja real ahora
Benn escribe sobre una idea sencilla que ha estado escondida a la vista: los modelos que están ganando no son los de arquitectura más elegante. Son los que le meten fuerza bruta al problema hasta que funciona.
El truco está en saber qué empujar con fuerza bruta. Gastos más compute en lo de menos es caro y no da nada. Gastos más compute en lo de más — lo que realmente rompe el techo — se paga solo. Esa es la diferencia entre quemar capital y construir algo que se queda.
Lo que cambió es la curva de costos. El compute es barato ya para que la fuerza bruta sea una estrategia real, no un plan B cuando no se te ocurre algo ingenioso. Los modelos que pueden permitirse intentarlo más fuerte, y los que saben en qué dirección empujar, van ganando. El resto sigue discutiendo qué variante de transformer es la mejor.
Por qué nos importa: la comunidad está llena de gente que trabaja duro y se las arregla — los que no tienen títulos fancy pero aparecen y hacen el trabajo. La inteligencia bruta es lo que ellos hacen. Los modelos que se acercan a eso son los que realmente le servirán a gente como nosotros, no solo a los que los están escribiendo.
“Los modelos que están ganando no son los de arquitectura más elegante. Son los que le meten fuerza bruta al problema hasta que funciona.”