Aiven se lleva a Flow AI — la búsqueda vectorial se va al disco
Aiven se llevó a Flow AI, un equipo que construye índices de búsqueda vectorial que viven en disco en lugar de en RAM. La jugada es directa contra la curva de costos: cuando tu dataset vectorial se hace más grande que la memoria del servidor, tenés dos opciones. Podés tirar plata a más RAM, o dejar de fingir que la RAM es gratis y usar el SSD de verdad. Los índices de Flow hacen lo segundo.
La búsqueda vectorial es el motor detrás de RAG y la razón por la que cada app con LLM está comiéndose los presupuestos de infraestructura. La jugada vieja era mantener todo en RAM para velocidad. Funciona hasta que no funciona — y ahí la cuenta de la nube se pone ruidosa. Los índices en disco cambian un poco de latencia por mucha menos memoria. Para cualquiera corriendo un workload real a escala, ese trade-off es la diferencia entre una línea en el balance y un problema.
Aiven vende servicios de cloud gestionado — bases de datos, Kafka, toda la pila — y esta adquisición pone la búsqueda vectorial directo en su portfolio. La compañía está señalando que la próxima ola de infraestructura gestionada no se trata de chips más rápidos; se trata de no pagar de más por cosas que podés poner en disco.
Por qué nos importa: cada shop chico corriendo una app RAG acaba de tener una forma más barata de que los costos no se vayan a la mierda.
“La jugada vieja era mantener todo en RAM para velocidad. Funciona hasta que no funciona.”