Anthropic está financiando 5 modelos open-source — incluyendo uno enfocado en seguridad

Anthropic lanzó un fondo de $10M para modelos open-source esta semana. Cinco proyectos entraron: Llama, Mixtral, Qwen, Granite, y un modelo llamado Mythos hecho para evals de seguridad.

El dinero va directo a los labs que construyen los modelos, no a investigadores independientes. El jefe de Anthropic, Dario Amodei, es quien está empujando esto. Lleva tiempo diciendo que los modelos open se están acercando en capacidad y que el mundo necesita más — especialmente los que pueden testear seguridad de otros modelos.

Mythos es el raro. Es un modelo de 14B parámetros hecho para evaluar seguridad, no para correr tareas. La idea es que si todos están soltando modelos open, necesitás herramientas open para chequear si son seguros antes de que se usen en la wild.

El Claude de Anthropic es closed-source. La compañía ha sido cuidadosa con lo que suelta — sus open weights hasta ahora son el Claude 3 Haiku más chico y las variantes viejas de Sonnet. Este fondo es una forma de sembrar el ecosistema open con modelos en los que confía, incluyendo uno que construyó ella misma para testear seguridad.

La carrera de modelos open se está calentando. El Llama de Meta, el Mixtral de Mistral, el Qwen de Alibaba, y el Granite de IBM están todos compitiendo. Anthropic está tirando plata al campo para asegurarse de que la capa de seguridad no se quede atrás de la capa de capacidad.

Por qué nos importa: los modelos open mantienen el poder afuera de las manos de las empresas que lo encierran todo — cuando las herramientas son open, la gente puede auditar lo que está corriendo de verdad, no solo confiar en una política de privacidad.