El bottleneck es el bottleneck — y se está poniendo peor

Un post reciente en el blog de Stack Overflow señala algo que la mayoría de los ingenieros ya sabe: la IA ya no es el cuello de botella. La restricción real es el prompt —el texto que le metes— y eso es lo que está frenando todo.

El artículo explica cómo la prompt engineering se ha convertido en su propia disciplina. No se trata solo de escribir mejores instrucciones. Se trata de la longitud del contexto, los presupuestos de tokens, los ajustes de temperatura y el costo oculto de las llamadas a la API. Cada llamada cuesta dinero y tiempo. Cada token extra en el prompt se come tu ventana de contexto. El resultado es un nuevo tipo de trabajo de desarrollo donde el bottleneck no es el compute —es la habilidad humana para estructurar la petición.

Por qué nos importa: gran parte del hype de la IA se construye sobre la idea de que la tecnología en sí es lo difícil. En la práctica, lo difícil es qué le pides y cómo se lo pides. Las herramientas se están volviendo más capaces, pero los prompts se están haciendo más largos, más complejos y más caros. Los equipos que lo entendieron temprano ya están escribiendo librerías internas para gestionar plantillas de prompts, cachear respuestas y batchear peticiones. Los que no lo hicieron están quemando tokens en prompts a medias que apenas funcionan.

El bottleneck es el bottleneck —y se está poniendo peor. Por eso la gente que está haciendo plata en este espacio no solo está construyendo modelos. Está construyendo la tubería alrededor de ellos.

Por qué nos importa: el side hustle que convierte un prompt en un producto real no es el código —es el prompt, y la gente que sabe escribir uno es la que está cobrando.