DoorDash armó un sistema de moderación con LLM para que la app no se vuelva un desastre

DoorDash metió un sistema de moderación basado en LLM a producción para manejar la avalancha de contenido generado por usuarios —reseñas, fotos y mensajes— que una app de delivery de comida como la suya genera a diario. El sistema corre sobre un modelo open-source estándar y hace el primer filtro, marcando lo que cruza la línea hacia acoso, fraude o violaciones de política antes de que un humano lo vea.

La arquitectura es simple: el modelo evalúa el contenido en varias dimensiones de política, le da puntaje a cada una y manda los items marcados a una cola para revisión humana. La idea es atrapar la fruta baja a velocidad de máquina para que el equipo de moderación no se ahogue en spam, reseñas falsas o los pocos malintencionados que intentan jugar el sistema. DoorDash ha sido pública sobre su dependencia de la IA para moderación de contenido desde hace rato; esto es el siguiente paso —un sistema dedicado en vez de un patchwork de clasificadores ad-hoc.

Lo notable es la honestidad en el write-up: el LLM es un primer filtro, no un reemplazo del juicio. El humano en el loop es el sistema real. Así es como la mayoría de las compañías lo están haciendo —los modelos hacen el trabajo pesado, la gente maneja los edge cases, y el negocio sigue moviéndose. DoorDash es uno de los ejemplos más grandes de este patrón aplicado a una plataforma consumer-facing con millones de usuarios.

Por qué nos importa: la gente usa estas apps todos los días, y cuando la moderación funciona, mantiene la plataforma usable; cuando no funciona, es nuestro dinero y nuestro tiempo en la línea.