Cómo funciona la moderación con IA de DoorDash a escala

DoorDash se armó un sistema interno para mandar millones de mensajes de usuarios por un LLM y atrapar fraudes, estafas y violaciones de políticas. El post desglosa la arquitectura: no es una sola llamada a un modelo, sino un pipeline en capas con distintos modelos manejando distintos tipos de señal, cada uno escribiendo su propio log para que todo sea rastreable.

La jugada clave es LogDrive, una capa de logs compartida que deja que cada etapa del pipeline de moderación escriba eventos estructurados sin saber qué hacen las otras etapas. Esto mantiene el sistema flexible — podés cambiar modelos, agregar checks nuevos, o reencaminar tráfico — sin tener que reescribir cada componente. Los logs se vuelven la fuente de verdad de lo que pasó, no solo lo que el código dice que hizo.

Por qué nos importa:
Cuando las plataformas usan IA para moderar contenido, las decisiones son opacas y a menudo irreversibles — armar sistemas que de hecho logueen lo que hizo la IA, y quién es responsable, es lo mínimo que deberíamos esperar.