La verificación formal para la IA por fin se está poniendo seria

Georg Wiese está escribiendo sobre verificación formal — el viejo enfoque de las pruebas matemáticas para software — y por qué de pronto vale la pena mirarlo otra vez para los sistemas de IA. La idea es simple: en vez de rezar para que el modelo haga lo correcto, lo demuestras. Y con pesos abiertos y modelos abiertos, puedes hacer esto a escala.

El artículo explica cómo esto se diferencia de la prueba. La prueba dice que el modelo funcionó en los ejemplos que le diste. La verificación formal dice que no puede fallar en las formas que especificaste. Para un modelo de enrutamiento de chips que ya le gana a las herramientas tradicionales, esa es la diferencia entre un juguete de investigación y algo que pondrías en producción.

La pregunta real es si esto escala a los modelos que estaremos corriendo en 2026. Georg dice que sí, y la evidencia se va acumulando — no solo en el diseño de chips, sino en finanzas, en las herramientas que ya usan Coq y Lean para demostrar que su código está bien. Los sistemas de IA se están volviendo lo suficientemente complejos como para que la prueba sola ya no alcanza. Necesitamos pruebas.

Por qué nos importa: las herramientas de las que dependemos — enrutamiento, trading, las apps que usan nuestros abuelos para revisar su pensión — ahora están escritas por modelos. Si fallan, fallan en formas que no vemos fácil. La verificación formal es cómo nos aseguramos de que no fallen.