Zero-copy es la mentira más cara en sistemas modernos

Un post nuevo de Iceberg Lake House — escrito por el equipo que construye el formato columnar open-source — pasa por alto una idea que se repite en charlas de diseño de sistemas: zero-copy evita copiar datos, así que es más rápido. El post dice que no. La copia es barata. Los cache misses que causa son los caros. El costo real es el dato moviéndose por la jerarquía de cache, no el memcpy mismo.

El autor muestra cómo se ve zero-copy en la práctica — pasar punteros en vez de copiar buffers — y luego explica por qué el pointer chasing a través de tablas de indirección quema L1 y L2. Cuando el dato que necesitas está esparcido por el heap, la CPU gasta más tiempo esperando memoria que trabajando. Una copia simple que queda contigua en la cache puede ganarle a un path zero-copy que salta por el heap.

El post no es un rant contra zero-copy. Es una corrección. Si estás armando un query engine, un message bus, o algo que mueve buffers grandes, esto es lo que te salva de la optimización prematura. La lección: mide la cache, no el memcpy.

Esto es aiexplainerworthy — explica una idea de diseño de sistemas con claridad en vez de hacer hype de una herramienta. Es el tipo de post que le pega a quien ha shipped algo y ha visto al profiler mentirle.

Por qué nos importa: la gente builds things y luego le echa la culpa a la tool cuando los números no cuadran. Zero-copy es la última palabra shiny — pero la cache es la jefa. Si tu sistema está churning data, este post te salva de shippear la optimización equivocada.