Guías de IA · 10 min de lectura

¿Qué es la destilación de modelos? Cómo los modelos teacher entrenan a otros más pequeños

La destilación de modelos entrena a un student para imitar a un teacher. Descubre cómo reduce costes de inferencia y qué límites imponen las API.

Ilustración de una gran figura luminosa teacher que envía un suave abanico de luz hacia una figura student más pequeña

La destilación de modelos es una técnica de entrenamiento en la que un modelo student más pequeño aprende a imitar a un modelo teacher más grande o más capaz. Al transferir el comportamiento de salida del teacher a una arquitectura compacta, los equipos reducen el coste y la latencia de inferencia mientras conservan buena parte de sus capacidades para tareas específicas en producción.

¿Qué es la destilación de modelos y cómo funciona el esquema teacher-student?

La destilación de modelos (model distillation), también llamada destilación de conocimiento (knowledge distillation), es un proceso de entrenamiento que transfiere el comportamiento de un modelo teacher grande y capaz a un modelo student más pequeño o económico. En lugar de entrenar el modelo compacto solo con ejemplos sin procesar anotados por personas, el equipo utiliza el modelo teacher para generar señales de entrenamiento que guían las actualizaciones del student. El objetivo es un modelo más pequeño que funcione más rápido y cueste menos por solicitud, conservando gran parte del comportamiento del teacher.

En un flujo de trabajo teacher-student, el teacher ya está entrenado y permanece congelado mientras produce valores objetivo para un conjunto de datos. El student actualiza sus pesos para igualar lo que produce el teacher. Los modelos teacher y student no necesitan compartir la misma arquitectura interna. Un equipo puede combinar un teacher grande y costoso en términos de cálculo con un diseño de student mucho más ligero, adecuado para ofrecer respuestas rápidamente.

En la destilación de LLM, la señal de entrenamiento pasa de simples etiquetas de clase al comportamiento lingüístico. Destilar un modelo de lenguaje suele significar entrenar al student con texto generado por el teacher, con etiquetas de preferencia que ordenan varias respuestas o con distribuciones de probabilidad a nivel de token cuando el teacher las proporciona. Las variantes posteriores de destilación también entrenan al student para imitar características intermedias o trazas de razonamiento del teacher, en lugar de depender únicamente de conjuntos de datos etiquetados por personas.

¿Cómo dieron origen a la destilación los objetivos suaves y el conocimiento oscuro?

La formulación moderna de la destilación de conocimiento procede del artículo de 2015 Distilling the Knowledge in a Neural Network, de Geoffrey Hinton, Oriol Vinyals y Jeff Dean. Antes de ese trabajo, los clasificadores supervisados se entrenaban habitualmente con etiquetas duras: la clase correcta recibía una puntuación de uno y todas las demás, cero. Ese objetivo de una sola etiqueta indica al modelo cuál es la respuesta correcta, pero oculta cómo evalúa el teacher todas las demás opciones.

Hinton, Vinyals y Dean demostraron que un teacher entrenado produce objetivos suaves, es decir, una distribución completa de probabilidades entre todas las clases posibles para cada entrada. Cuando un clasificador de imágenes evalúa la foto de una camioneta, asigna una probabilidad alta a camión, una probabilidad pequeña distinta de cero a coche y una probabilidad prácticamente nula a zanahoria. Esas pequeñas probabilidades residuales contienen lo que los autores llamaron «conocimiento oscuro» sobre la relación entre las clases.

Entrenar a un student con objetivos suaves transmite esa información sobre similitudes estructurales y proporciona al modelo pequeño una supervisión mucho más rica por ejemplo que una etiqueta one-hot por sí sola. El artículo también introduce un parámetro de temperatura que suaviza la distribución de salida del teacher durante la destilación para que esas probabilidades secundarias destaquen más durante el entrenamiento. Como el student aprende cómo distribuye el teacher su confianza entre respuestas relacionadas, puede generalizar mejor que un modelo pequeño entrenado desde cero solo con etiquetas duras.

Destilación de modelos frente a fine-tuning y cuantización

La destilación de modelos, el fine-tuning y la cuantización suelen agruparse bajo la optimización de modelos, pero cada método modifica un modelo de manera diferente. Comparar la destilación con el fine-tuning o la compresión de pesos ayuda a aclarar qué herramienta resuelve cada cuello de botella.

Enfoque Objetivo principal Qué cambia Cuándo usarlo
Destilación de modelos Transferir el comportamiento de un teacher grande a un modelo más pequeño y rápido Se entrena un modelo student independiente para igualar las salidas o probabilidades del teacher Necesitas menor latencia o hardware más pequeño y conservar un comportamiento similar al del teacher
Fine-tuning Adaptar un modelo existente a una tarea, dominio o formato específico Los pesos del modelo objetivo se actualizan con datos de la tarea, mientras que su tamaño suele mantenerse Un modelo base ya cumple tu presupuesto de latencia y necesita especializarse en una tarea
Cuantización Reducir el uso de memoria y acelerar los cálculos con pesos Disminuye la precisión numérica de los pesos existentes, por ejemplo de 16 bits a 8 bits o 4 bits Un modelo cumple tus necesidades de precisión y debe ajustarse a límites más estrictos de VRAM o memoria

El fine-tuning continúa entrenando un modelo existente con datos específicos de una tarea para cambiar su propio comportamiento, normalmente sin reducir su número de parámetros. La destilación tiene otro objetivo: transfiere el comportamiento de un teacher a otro modelo, generalmente más pequeño. La cuantización tampoco es destilación, pues reduce la precisión numérica de los pesos de un modelo ya entrenado en lugar de entrenar a un student independiente para imitar a un teacher.

En estas conversaciones también aparecen la poda, la dispersión, las arquitecturas de mezcla de expertos (MoE) y la generación aumentada por recuperación (RAG). La poda, la dispersión y los diseños MoE modifican el cálculo o el número de parámetros activos dentro de un modelo, mientras que RAG recupera documentos externos durante la inferencia en lugar de comprimir un teacher en un student. Si aún estás decidiendo entre entrenar, adaptar o cambiar el tamaño del modelo, empieza por nuestra guía sobre cómo elegir un modelo de IA.

¿Por qué destilan modelos de lenguaje los equipos?

Los equipos de ingeniería destilan un modelo de lenguaje principalmente para reducir el coste y la latencia de inferencia frente a ejecutar un modelo teacher grande en cada solicitud. Usar un modelo insignia para millones de llamadas rutinarias de clasificación, extracción o redacción consume muchos recursos de cálculo y alarga los tiempos de respuesta. Trasladar esa carga a un student destilado y entrenado con el comportamiento del teacher permite que una aplicación responda más rápido con hardware más pequeño o dentro de presupuestos de latencia más ajustados.

Entender qué es un token en IA ayuda a explicar la facturación de esa decisión: cada prompt y cada texto generado consumen recursos de cálculo proporcionales al volumen de tokens y al tamaño del modelo, por lo que trasladar el tráfico frecuente a un student compacto reduce directamente el coste por solicitud. Los equipos que buscan más formas de reducir el gasto, además de usar modelos más pequeños, pueden combinar esto con las tácticas de nuestra guía sobre cómo reducir los costes de API de IA.

En mi propia experiencia revisando canalizaciones de IA en producción, los equipos rara vez empiezan con la destilación desde el primer día. La mayoría comienza con un teacher grande para validar la calidad del producto y después destila su propio teacher interno en un student de producción cuando se estabilizan los patrones de tráfico. Los laboratorios de IA siguen el mismo patrón al lanzar versiones más pequeñas de sus familias de modelos: destilar un modelo propio o con la licencia adecuada en un student más pequeño es una práctica habitual de ingeniería de producto.

¿Qué dicen las políticas de OpenAI sobre la destilación de modelos?

El entrenamiento de un modelo student con salidas de una API alojada por un tercero se rige por los contratos del proveedor. El siguiente resumen describe las políticas publicadas hasta el 16 de noviembre de 2026, incluida una actualización de las Usage Policies indicada como efectiva a partir del 20 de noviembre de 2026, y no constituye asesoramiento legal. Destilar un modelo propio, o uno cuya licencia permita entrenar con sus salidas, es muy diferente de extraer salidas de una API comercial infringiendo sus condiciones.

Terms of Use y Usage Policies

Según los OpenAI Terms of Use, los usuarios tienen prohibida la siguiente actividad: «Usar las salidas para desarrollar modelos que compitan con OpenAI». Esta cláusula figura directamente entre las restricciones que rigen cómo pueden utilizar los clientes las salidas de modelos proporcionadas por los servicios de OpenAI.

La página de las OpenAI Usage Policies indica que entran en vigor el 20 de noviembre de 2026, por lo que su sección actualizada sobre entrenamiento y desarrollo de modelos es una norma futura que aún no está vigente el 16 de noviembre de 2026. En esa página, el próximo texto de la política establece que los usuarios no deben utilizar modelos de OpenAI ni sus salidas para generar, preparar, seleccionar o proporcionar material o señales de entrenamiento para modelos destinados a ser alternativas o sustitutos de los modelos o servicios de OpenAI. Esto abarca datos de entrenamiento, tareas, rúbricas, entornos de aprendizaje por refuerzo y comentarios de entrenamiento como etiquetas, puntuaciones, clasificaciones, preferencias, recompensas o correcciones. El futuro texto también establece que estas restricciones no prohíben los usos expresamente permitidos por el acuerdo de un cliente, incluida cualquier Permitted Exception en virtud del Services Agreement de OpenAI.

Medidas contra campañas de destilación no autorizadas

En una publicación titulada Disrupting a coordinated model-distillation campaign, OpenAI describió la destilación adversaria como «el uso sistemático y no autorizado de las salidas o el razonamiento de un modelo para ayudar a entrenar, reproducir o mejorar otro modelo». OpenAI informó de medidas sobre cuentas y medidas técnicas contra una campaña coordinada que intentó extraer razonamientos protegidos de sus modelos.

Otros proveedores de modelos alojados también restringen el uso de salidas de API para entrenar modelos competidores. Como los permisos exactos, las excepciones empresariales y las licencias de pesos abiertos varían según el proveedor y el nivel de servicio, los equipos de ingeniería deben leer las condiciones vigentes de cada API alojada o licencia de modelo antes de recopilar salidas para una canalización de entrenamiento.

¿Qué puede salir mal con un modelo destilado?

Un modelo student destilado puede fallar en producción porque copiar las salidas de un teacher transmite sus puntos ciegos junto con sus fortalezas. Aunque un student parezca convincente en una prueba limitada, tras su despliegue aparecen tres tipos de fallo recurrentes:

  • Errores y sesgos heredados: como el student trata las salidas del teacher como la verdad de entrenamiento, puede aprender y repetir los errores de hecho, las alucinaciones o los sesgos sistemáticos que produzca el teacher.
  • Caídas fuera de distribución: igualar las respuestas finales del teacher en un conjunto de entrenamiento seleccionado no garantiza la misma fiabilidad cuando los usuarios reales envían entradas desconocidas, ruidosas o fuera de distribución.
  • Lagunas de cobertura y seguridad: las capacidades, los casos límite o los comportamientos de seguridad que nunca aparecen en el conjunto de destilación pueden degradarse de forma notable en el student y dejar lagunas que el teacher original gestionaba de forma segura.

Mitigar estos fallos requiere una cobertura cuidadosa del conjunto de datos y una evaluación independiente con casos límite reales de producción, en lugar de suponer que el student ha heredado todas las propiedades del teacher.

FAQ

Estas preguntas frecuentes resumen cómo funciona la destilación de modelos, cuándo la usan los equipos y qué reglas se aplican a las salidas de modelos alojados.

¿Es la destilación de modelos lo mismo que el fine-tuning?

La destilación de modelos y el fine-tuning tienen objetivos diferentes. El fine-tuning actualiza los pesos de un modelo existente, generalmente manteniendo el mismo número de parámetros, para que se adapte a una tarea o estilo específico. La destilación transfiere el comportamiento de un modelo teacher más grande a un modelo student independiente, normalmente más pequeño, para que los equipos puedan ejecutar inferencias más rápido y con menor coste.

¿Necesitan los modelos teacher y student la misma arquitectura?

Los modelos teacher y student no necesitan compartir la misma arquitectura. Como la destilación entrena al student para igualar las salidas, distribuciones de probabilidad o señales intermedias del teacher, una red student más pequeña puede aprender de un teacher mayor con una estructura interna diferente. Los equipos suelen elegir una arquitectura student compacta diseñada para ofrecer respuestas rápidamente en su hardware objetivo.

¿Se puede destilar un modelo de lenguaje con salidas de la API de OpenAI?

Al 16 de noviembre de 2026, los Terms of Use de OpenAI, vigentes desde el 1 de enero de 2026, ya prohíben usar las salidas para desarrollar modelos que compitan con OpenAI. Por separado, la página de las OpenAI Usage Policies añade una sección más detallada sobre entrenamiento y desarrollo de modelos, indicada como efectiva a partir del 20 de noviembre de 2026 y que aún no está vigente el 16 de noviembre de 2026. Los equipos que quieren construir modelos destilados cumpliendo las condiciones del proveedor utilizan modelos propios o modelos cuya licencia permite entrenar con sus salidas.

¿En qué se diferencia la destilación de la cuantización y RAG?

La destilación de modelos, la cuantización y la generación aumentada por recuperación abordan distintos cuellos de botella. La destilación entrena un nuevo modelo student más pequeño para imitar a un modelo teacher. La cuantización reduce la precisión numérica de los pesos de un modelo existente, por ejemplo de 16 bits a 8 bits o 4 bits, para disminuir el uso de memoria. La generación aumentada por recuperación obtiene documentos externos durante la inferencia en lugar de comprimir un teacher en un student.

¿Qué riesgos presenta un modelo student destilado?

Un modelo student destilado puede heredar errores de hecho o sesgos presentes en las salidas del modelo teacher. Igualar las respuestas de un teacher en ejemplos de entrenamiento tampoco garantiza la fiabilidad ante prompts fuera de distribución. Por último, las capacidades o los comportamientos de seguridad omitidos del conjunto de destilación pueden debilitarse de forma notable en el modelo student más pequeño durante su uso real.

Fuentes

Las definiciones técnicas y los detalles de las políticas de los proveedores de esta guía proceden del artículo de investigación original y de la documentación oficial de OpenAI que se indican a continuación.

Escrito por

Chunyu Cai

Chunyu Cai es el director ejecutivo de Lotook, LLC y un emprendedor que escribe sobre modelos de IA, agentes y cómo cambian el trabajo cotidiano. Chunyu Cai tiene un título de máster de Imperial College London.