Qué es el fine-tuning y cuándo conviene
El fine-tuning (ajuste fino) entrena un poco más un modelo existente con ejemplos propios para que adopte un estilo, un formato o una tarea específica. No es la primera opción para darle información de tu negocio: para eso suele bastar RAG.
Qué cambia y qué no
El ajuste fino cambia cómo responde el modelo (tono, formato, clasificación consistente), no le da memoria confiable de datos que cambian, como precios o stock.
Técnicas como LoRA entrenan solo una pequeña cantidad de parámetros adicionales, lo que abarata el proceso. La describieron Hu y otros en 2021.
Cuándo conviene
Cuando tienes cientos o miles de ejemplos de buenas respuestas, la tarea es muy repetitiva y las instrucciones en el prompt no alcanzan. También cuando quieres un modelo pequeño y barato que haga una sola cosa bien.
Cuándo no
Si tus datos cambian seguido, si tienes pocos ejemplos o si todavía no probaste con buenas instrucciones y RAG.
Qué significa para tu pyme
Primero instrucciones claras, después RAG y recién al final ajuste fino. Si usas un modelo de pesos abiertos, puedes ajustarlo y quedarte con el resultado (ver la guía de open source).
Fuentes
- Hu y otros (2021), LoRA: Low-Rank Adaptation of Large Language Models, arXiv
- Hugging Face, documentación de TRL (en inglés)
Open source y pesos abiertos · RAG
Otros temas
LLM · Agentes · RAG · MCP · Evals · Tokens · Prompting
Explicación redactada con ayuda de un agente de IA según nuestro estándar editorial, a partir de las fuentes citadas. Si ves un error, escríbenos a hola@casosdeusoia.ai.