Usa retrieval-augmented generation (RAG, generación aumentada por recuperación) cuando tu modelo necesite documentos privados, recientes o que cambian con frecuencia, y fine-tuning cuando necesites un tono, formato o comportamiento de tarea consistente y la ingeniería de prompts ya no mejore los resultados. Estos métodos resuelven problemas distintos y los sistemas en producción suelen combinar RAG para los hechos externos con fine-tuning para un comportamiento de salida fiable.
¿Cuál es la diferencia entre RAG y fine-tuning?
Retrieval-augmented generation (RAG) proporciona al modelo textos de referencia externos en el momento de la consulta, mientras que el fine-tuning actualiza sus pesos con un conjunto de datos específico para cambiar su comportamiento aprendido. En un flujo RAG, una búsqueda obtiene pasajes pertinentes de un índice y los añade a la solicitud del usuario. Así, el modelo puede fundamentar su respuesta en material actual o privado en vez de depender solo de los parámetros aprendidos durante el preentrenamiento. Para conocer a fondo el patrón de recuperación, consulta nuestra guía sobre qué es RAG.
El fine-tuning continúa el entrenamiento de un modelo base con un conjunto de datos más limitado para modificar sus parámetros subyacentes. Los equipos suelen usar fine-tuning supervisado (SFT), que entrena con ejemplos de prompts emparejados con las salidas deseadas, o métodos de preferencia como DPO, que aprenden de comparaciones entre respuestas preferidas y menos preferidas. Incluir documentos en un prompt cambia el contexto de entrada de una sola solicitud; el fine-tuning modifica el comportamiento del modelo en solicitudes futuras.
Del artículo de investigación de 2020 a los pipelines RAG modernos
La arquitectura RAG original de 2020 entrenaba conjuntamente un recuperador neuronal y un generador, mientras que los sistemas RAG actuales en producción suelen indexar documentos divididos en fragmentos y pasar los pasajes recuperados a un prompt. Lewis et al. introdujeron el término en su artículo de NeurIPS 2020 (arXiv:2005.11401), combinando memoria paramétrica preentrenada (un generador BART de secuencia a secuencia) con memoria no paramétrica (un índice vectorial denso de Wikipedia consultado mediante Dense Passage Retriever, o DPR).
Los autores crearon este diseño híbrido porque los modelos puramente paramétricos tienen dificultades para actualizar con precisión el conocimiento del mundo, ocultan la procedencia y alucinan. Para demostrar que un índice podía actualizar el conocimiento sin reentrenar, sustituyeron un índice de Wikipedia de diciembre de 2016 por otro de diciembre de 2018 en 82 preguntas sobre cambios de dirigentes. Los índices del año correspondiente obtuvieron aproximadamente un 70% y un 68% de precisión, mientras que los de años no coincidentes bajaron a alrededor del 12% y el 4%. El resultado demuestra que actualizar un índice actualiza las respuestas, pero no implica que esas cifras exactas se trasladen a todos los despliegues en producción.
Hoy los equipos de ingeniería rara vez entrenan una pareja de DPR y BART de extremo a extremo. En cambio, como describen AWS Prescriptive Guidance y los artículos técnicos de AWS Machine Learning, los pipelines RAG en producción suelen seguir tres etapas:
- Ingerir e indexar: Divide los documentos fuente en partes manejables, calcula representaciones vectoriales y guarda los vectores junto con el texto sin procesar y los metadatos. Elegir bien los límites importa, como explican nuestras guías sobre cómo dividir documentos para RAG y qué es un embedding.
- Recuperar: Convierte la pregunta del usuario en una consulta de búsqueda, obtiene los pasajes top-k mediante similitud semántica, coincidencia de palabras clave o búsqueda híbrida y, opcionalmente, vuelve a ordenar los candidatos.
- Aumentar y generar: Inserta los pasajes recuperados y la pregunta del usuario en un prompt para que el modelo de lenguaje produzca una respuesta fundamentada.
Las guías técnicas de AWS destacan que la calidad de la generación depende de la calidad de la recuperación: un sistema RAG es tan bueno como su recuperador.
¿Cuándo conviene usar RAG en lugar de fine-tuning?
RAG suele ser el mejor primer paso cuando una aplicación depende de documentos privados, recientes o actualizados con frecuencia que el modelo base no puede recordar de forma fiable. Los registros de cambios de productos, las políticas internas de recursos humanos, los tickets de soporte y los manuales técnicos cambian constantemente. Añadir o sustituir registros en un índice de búsqueda actualiza de inmediato el conocimiento disponible, mientras que el fine-tuning incorpora hechos lentamente y puede dejar el modelo desactualizado poco después de terminar el entrenamiento.
RAG también facilita la trazabilidad porque los ingenieros y usuarios finales pueden examinar los pasajes exactos recuperados para una respuesta. Según la guía pública de precisión de OpenAI (consultada el 18 de noviembre de 2026), RAG da a los modelos acceso a contexto específico del dominio y muchos de los mayores despliegues de clientes de OpenAI dependen únicamente de la ingeniería de prompts y RAG. La documentación de OpenAI sobre optimización de modelos también indica que el fine-tuning no es adecuado para añadir conocimientos completamente nuevos y recomienda la recuperación. Aunque RAG sigue requiriendo evaluar la precisión de la recuperación y la fundamentación de las respuestas, los equipos pueden lanzar una primera versión funcional a partir de archivos existentes sin preparar un gran conjunto de datos de entrenamiento.
¿Cuándo es el fine-tuning el mejor siguiente paso?
El fine-tuning es el siguiente paso adecuado cuando un modelo ya recibe los hechos necesarios, pero no sigue el tono, esquema o patrón de comportamiento exigido después de que la ingeniería de prompts deje de mejorar los resultados. Como señala la guía de OpenAI (consultada el 18 de noviembre de 2026), el fine-tuning aborda problemas de memoria aprendida y consistencia: destacar conocimientos que ya están en el modelo, imponer formatos de salida estructurados, adoptar una voz específica o enseñar a un modelo más pequeño a realizar una tarea concreta de forma fiable. Los equipos también lo usan para acortar prompts sustituyendo instrucciones largas y ejemplos few-shot por comportamiento aprendido.
No inicies un trabajo de entrenamiento sin ejemplos etiquetados representativos y un conjunto de evaluación reservado. La documentación de precisión de OpenAI destaca que la calidad de los datos de entrenamiento pesa más que la cantidad bruta. Cita 50+ ejemplos de alta calidad como punto de partida habitual para probar y recomienda ampliar solo cuando los errores restantes se deban al comportamiento y no a la falta de contexto. Considera 50+ una referencia inicial, no una garantía.
RAG y fine-tuning también se combinan bien. Si las evaluaciones revelan tanto falta de contexto como desviaciones de formato, los equipos pueden ajustar un modelo con ejemplos de entrenamiento en formato RAG para que aprenda a leer y citar los pasajes recuperados de forma fiable, en lugar de manejar el contexto recuperado sin ejemplos previos. Aunque el fine-tuning sigue activo como técnica en modelos de pesos abiertos y en varios proveedores, las ofertas concretas cambian: al 18 de noviembre de 2026, OpenAI indica que su plataforma de fine-tuning está cerrando y no admite nuevos usuarios. Los clientes existentes que cumplan los requisitos pueden ejecutar trabajos de entrenamiento hasta el 6 de enero de 2027 (salvo que un modelo base se retire antes), y los modelos entrenados siguen disponibles para inferencia hasta la retirada del modelo base.
El papel de la ingeniería de prompts y LoRA
La ingeniería de prompts ofrece la referencia inicial más rápida antes de construir un índice de recuperación o un pipeline de entrenamiento. Low-Rank Adaptation (LoRA) hace más ligero el fine-tuning al entrenar pequeñas matrices adaptadoras en lugar de todos los pesos del modelo.
Primero, ingeniería de prompts
La ingeniería de prompts combina instrucciones claras, restricciones de salida y ejemplos few-shot en cada solicitud. Como no requiere un índice de búsqueda ni un ciclo de entrenamiento, todos los equipos deberían aprovecharla primero para establecer una referencia de rendimiento. Sus límites aparecen cuando crecen los flujos de trabajo: los prompts están limitados por la ventana de contexto, las instrucciones few-shot largas añaden latencia y consumo adicional de tokens, y el prompting por sí solo no puede buscar en un corpus privado. Si faltan documentos y eso causa errores, añade recuperación; si la consistencia de salida se estanca, considera el fine-tuning.
LoRA y fine-tuning eficiente en parámetros
El fine-tuning no exige actualizar todos los parámetros de un modelo grande ni desplegar un checkpoint completo y separado para cada caso de uso. Introducido por Hu et al. (ICLR 2022; arXiv:2106.09685), LoRA congela los pesos preentrenados e inserta pequeñas matrices entrenables de descomposición de rango bajo en capas seleccionadas, como los pesos de atención de Transformer. Como el entrenamiento solo actualiza esos adaptadores compactos, los equipos adaptan modelos con muchos menos parámetros entrenables. Durante la inferencia, los adaptadores LoRA pueden fusionarse con los pesos base sin latencia adicional respecto al modelo original, o intercambiarse dinámicamente según la tarea.
Un marco práctico de decisión para equipos
La elección entre RAG y fine-tuning funciona mejor como una serie de comprobaciones técnicas sobre la actualidad de los datos, los requisitos de comportamiento, la preparación para evaluar y la carga operativa. Revisa estas seis preguntas antes de dedicar tiempo de ingeniería:
- ¿El conocimiento necesario es privado, nuevo o cambia con frecuencia? Empieza con RAG para poder actualizar el conocimiento al actualizar el índice.
- ¿Necesitas ajustar el tono, el esquema o la consistencia de la tarea? Empieza con ingeniería de prompts y considera el fine-tuning solo si los prompts dejan de mejorar.
- ¿Tienes ejemplos etiquetados y una forma de evaluar? El fine-tuning requiere pares de entrada y salida representativos y un conjunto de evaluación reservado antes de comenzar el entrenamiento.
- ¿Qué ciclo operativo encaja con tu equipo? RAG añade ingestión y división de documentos, permisos y ajuste de recuperación; el fine-tuning añade preparación de datos, ejecuciones de entrenamiento y reevaluación cada vez que se actualiza el modelo base.
- ¿Los prompts largos perjudican la eficiencia en una tarea estable? El fine-tuning puede incorporar instrucciones repetidas a los pesos del modelo para acortar prompts o permitir el uso de un modelo más pequeño.
- ¿Aparecen ambos problemas en las evaluaciones? Combina ingeniería de prompts, RAG para hechos dinámicos y fine-tuning con ejemplos de tipo RAG para lograr un comportamiento fiable.
| Situación | Punto de partida habitual | Por qué |
|---|---|---|
| Documentos privados o actualizados con frecuencia deben fundamentar la respuesta | RAG (tras un prompt de referencia) | El conocimiento reside en un índice que se actualiza sin reentrenar |
| Necesitas una voz, plantilla o salida estructurada consistente | Ingeniería de prompts y después fine-tuning si los prompts se estancan | El formato de salida es un problema de comportamiento, no una carencia de búsqueda documental |
| Hay hechos cambiantes y un estilo de la organización estricto | RAG y prompts; después, considerar fine-tuning con ejemplos RAG | La recuperación aporta hechos actuales mientras el entrenamiento fija el formato |
| No tienes conjunto de evaluación ni salidas etiquetadas | Prompts y, si hace falta, RAG (esperar para el fine-tuning) | Sin evaluaciones no puedes comprobar si el entrenamiento mejoró los resultados |
| Quieres que el modelo memorice una ficha de datos cambiante | RAG o una herramienta de búsqueda específica | El fine-tuning tarda en actualizarse y corre el riesgo de quedar obsoleto pronto |
¿Qué sigue fallando con cada enfoque?
Tanto RAG como el fine-tuning introducen modos de fallo diferentes y ninguna de las dos técnicas elimina las alucinaciones ni la necesidad de evaluación y controles de acceso.
Fallos de RAG
- Las alucinaciones persisten: Un modelo puede ignorar pasajes recuperados, mezclar el contexto recuperado con memoria paramétrica contradictoria o inventar una respuesta cuando la recuperación no encuentra nada pertinente. Nuestra guía sobre tasas de alucinación de la IA explica por qué fundamentar las respuestas reduce el riesgo de invención, pero no lo elimina.
- Resultados omitidos e índices obsoletos: RAG falla cuando los índices contienen archivos desactualizados o contradictorios, cuando los fragmentos cortan contexto clave o cuando demasiados fragmentos casi duplicados llenan el prompt. La depuración de RAG empieza examinando los pasajes recuperados.
- Inyección indirecta de prompts: Los documentos recuperados de fuentes externas o editables por usuarios pueden contener instrucciones ocultas diseñadas para secuestrar la salida del modelo. Separa siempre los prompts de sistema fiables del texto recuperado, como explica nuestra introducción a qué es la inyección de prompts.
- Filtraciones de acceso y contextos excesivos: Cualquier documento en un índice compartido puede mostrarse a quienes consulten el sistema, salvo que los permisos filtren los resultados recuperados. Incluir demasiado texto recuperado en un prompt también puede hacer que los modelos pierdan de vista la información enterrada en el medio.
Fallos del fine-tuning
- Sobreajuste y artefactos del conjunto de datos: Los modelos entrenados con ejemplos limitados o poco representativos pueden memorizar peculiaridades de formato y fallar cuando varían las entradas reales de producción.
- Hechos obsoletos y lagunas de gobernanza: El fine-tuning no mantiene por sí solo actualizado el conocimiento factual, y entrenar los pesos nunca sustituye los permisos de herramientas, las barreras de protección de entrada ni la evaluación posterior al entrenamiento.
FAQ
¿Se pueden combinar RAG y fine-tuning en un mismo sistema?
Sí, RAG y fine-tuning se complementan y suelen combinarse en producción. RAG recupera hechos actuales o privados en el momento de la consulta, mientras que el fine-tuning impone el tono, el esquema de salida o el cumplimiento de instrucciones. Al ajustar un modelo RAG, incluye pasajes recuperados en los ejemplos de entrenamiento para que practique cómo fundamentar las respuestas en el contexto.
¿RAG elimina por completo las alucinaciones de la IA?
No, RAG reduce el riesgo de invención al proporcionar al modelo textos fuente pertinentes, pero las alucinaciones siguen ocurriendo. Los modelos pueden interpretar mal los fragmentos recuperados, mezclar hechos recuperados con memoria preentrenada contradictoria o adivinar cuando falla la recuperación. Los equipos necesitan métricas de aciertos de recuperación y evaluaciones de fundamentación para detectar afirmaciones sin respaldo.
¿Cuántos ejemplos se necesitan antes de ajustar un modelo?
Ningún tamaño de conjunto de datos garantiza el éxito, porque la calidad de los ejemplos y su representatividad en producción importan más que el volumen bruto. La guía de precisión de OpenAI (consultada el 18 de noviembre de 2026) cita 50+ buenos ejemplos junto con un conjunto de evaluación reservado como punto de partida práctico. Evalúa pronto, comprueba que los errores provengan del comportamiento y amplía con cuidado.
¿Es LoRA mejor que el fine-tuning completo?
LoRA es un método de fine-tuning eficiente en parámetros que ofrece una alternativa más ligera, pero no supera siempre al fine-tuning completo. Al congelar los pesos preentrenados y entrenar matrices compactas de rango bajo, LoRA reduce los parámetros entrenables y puede fusionarse con los pesos base sin latencia adicional. Compara ambos enfoques con tu conjunto de evaluación.
¿Cuándo basta la ingeniería de prompts sin RAG ni fine-tuning?
La ingeniería de prompts por sí sola funciona cuando el modelo base ya conoce los hechos del dominio, el material de referencia cabe cómodamente en el prompt y las instrucciones claras con unos pocos ejemplos producen salidas consistentes. Añade RAG cuando falten documentos privados o cambiantes, y fine-tuning solo cuando los prompts dejen de mejorar en tono, estructura o eficiencia de tokens.
Fuentes
- Lewis et al., “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks” (arXiv:2005.11401)
- Meta AI: Retrieval-Augmented Generation blog post
- AWS Prescriptive Guidance: Understanding LLMs and RAG
- AWS Machine Learning Blog: From RAG to fabric: lessons learned from building real-world RAGs at GenAIIC (Part 1)
- Hu et al., “LoRA: Low-Rank Adaptation of Large Language Models” (arXiv:2106.09685)
- OpenAI: Optimizing LLM Accuracy
- OpenAI: Model optimization
- OpenAI: Supervised fine-tuning



