Fine-tuning es enseñarle trucos nuevos al modelo

Los modelos base como Llama 3 o Mistral son generalistas — saben un poco de todo, como un egresado que leyó mucho pero no se especializó en nada. Fine-tuning es el siguiente paso: agarrás uno de esos modelos y lo entrenás con tus propios datos para que aprenda un registro específico, un dominio, un estilo.

La idea es simple. Agarrás un modelo base, le pasás un montón de ejemplos — pares de pregunta y respuesta, o párrafos — y el modelo ajusta sus pesos internos para que coincida con el patrón. No es un modelo nuevo desde cero. Es la misma arquitectura, solo que un poco desplazada.

Pensalo así: ya sabés hablar en inglés. Ahora tu abuela quiere que le expliques la visita al médico a tía Rosa como ella lo haría — sin jerga, con las palabras correctas, como lo hacemos nosotros. No tenés que reaprender el idioma. Solo cambiás el registro. Fine-tuning hace ese cambio para un modelo.

Fine-tuning es distinto de prompting o RAG. Prompting es solo decirle al modelo lo que querés en el momento. RAG es traer documentos externos en el momento de la inferencia. Fine-tuning cambia al modelo mismo — absorbe el patrón de forma permanente.

Es popular porque es barato comparado con construir un modelo nuevo y rápido: se hace en un día con las herramientas adecuadas. Pero tiene límites. No podés fine-tunear un modelo para que sepa hechos que nunca vio en los datos de entrenamiento — para eso todavía necesitás retrieval. Y un over-fine-tuning puede hacer que el modelo olvide razonar en tareas generales.

Por qué nos importa:
Usá fine-tuning para estilo y dominio, no para hechos nuevos — combinalo con retrieval cuando necesités precisión.