Guias de IA · 10 min de leitura

O que é destilação de modelos? Como modelos teacher treinam modelos menores

A destilação treina um student menor para imitar um teacher. Entenda a redução de custos de inferência e as restrições dos termos de APIs.

Ilustração de uma grande forma luminosa teacher enviando um suave leque de luz a uma forma student menor

A destilação de modelos é uma técnica de treinamento em que um modelo student menor aprende a imitar um modelo teacher maior ou mais capaz. Ao transferir o comportamento das saídas do teacher para uma arquitetura compacta, as equipes reduzem o custo e a latência de inferência, preservando boa parte da capacidade do teacher para tarefas específicas em produção.

O que é destilação de modelos e como funciona a estrutura teacher-student?

A destilação de modelos (model distillation), também chamada de destilação de conhecimento (knowledge distillation), é um processo de treinamento que transfere o comportamento de um modelo teacher grande e capaz para um modelo student menor ou mais barato. Em vez de treinar o modelo compacto apenas com exemplos brutos anotados por pessoas, a equipe usa o teacher para gerar sinais de treinamento que orientam as atualizações do student. O objetivo é um modelo menor, mais rápido e menos caro por solicitação, que mantenha boa parte do comportamento do teacher.

Em um fluxo de trabalho teacher-student, o teacher já está treinado e permanece congelado enquanto produz valores-alvo em um conjunto de dados. O student atualiza seus pesos para corresponder ao que o teacher produz. Os modelos teacher e student não precisam compartilhar a mesma arquitetura interna. Uma equipe pode combinar um teacher grande e com alto custo computacional com um student muito mais leve, adequado para atendimento rápido.

Na destilação de LLM, o sinal de treinamento passa de simples rótulos de classe para o comportamento linguístico. Destilar um modelo de linguagem frequentemente significa treinar o student com texto gerado pelo teacher, com rótulos de preferência que classificam várias respostas ou com distribuições de probabilidade por token, quando o teacher disponibiliza essas probabilidades. Variantes posteriores também treinam o student para imitar características intermediárias ou rastros de raciocínio do teacher, em vez de depender apenas de conjuntos de dados rotulados por pessoas.

Como os alvos suaves e o conhecimento oculto deram origem à destilação?

A formulação moderna da destilação de conhecimento vem do artigo de 2015 Distilling the Knowledge in a Neural Network, de Geoffrey Hinton, Oriol Vinyals e Jeff Dean. Antes desse trabalho, classificadores supervisionados eram comumente treinados com rótulos rígidos, nos quais a classe correta recebe pontuação um e todas as outras recebem zero. Esse alvo com um único rótulo informa ao modelo qual é a resposta certa, mas oculta como o teacher avalia as demais opções.

Hinton, Vinyals e Dean mostraram que um teacher treinado produz alvos suaves, isto é, uma distribuição completa de probabilidades entre todas as classes possíveis para cada entrada. Quando um classificador de imagens avalia a foto de uma picape, ele atribui alta probabilidade a caminhão, uma pequena probabilidade diferente de zero a carro e probabilidade praticamente zero a cenoura. Essas pequenas probabilidades residuais carregam o que os autores chamaram de “conhecimento oculto” sobre a relação entre as classes.

Treinar um student com alvos suaves transmite essas informações sobre semelhanças estruturais e oferece ao modelo menor uma supervisão muito mais rica por exemplo do que um rótulo one-hot isolado. O artigo também apresenta um parâmetro de temperatura que suaviza a distribuição de saída do teacher durante a destilação, para que essas probabilidades secundárias se destaquem mais no treinamento. Como o student aprende como o teacher distribui sua confiança entre respostas relacionadas, ele pode generalizar melhor do que um modelo pequeno treinado do zero apenas com rótulos rígidos.

Destilação de modelos, fine-tuning e quantização

Destilação de modelos, fine-tuning e quantização costumam ser agrupados como otimização de modelos, mas cada método altera um modelo de maneira diferente. Comparar a destilação com fine-tuning ou compressão de pesos ajuda a esclarecer qual ferramenta resolve cada gargalo.

Abordagem Objetivo principal O que muda Quando usar
Destilação de modelos Transferir o comportamento de um teacher grande para um modelo menor e mais rápido Um modelo student separado é treinado para corresponder às saídas ou probabilidades do teacher Você precisa de menor latência ou hardware menor, mantendo um comportamento semelhante ao do teacher
Fine-tuning Adaptar um modelo existente a uma tarefa, domínio ou formato específico Os pesos do modelo são atualizados com dados da tarefa, enquanto o tamanho geralmente permanece igual Um modelo base já atende ao seu limite de latência e precisa se especializar em uma tarefa
Quantização Reduzir o uso de memória e acelerar os cálculos com pesos A precisão numérica dos pesos existentes diminui, por exemplo de 16 bits para 8 bits ou 4 bits Um modelo atende às suas necessidades de precisão e precisa caber em limites mais restritos de VRAM ou memória

O fine-tuning continua o treinamento de um modelo existente com dados específicos de uma tarefa para alterar seu próprio comportamento, geralmente sem reduzir o número de parâmetros. A destilação tem outro objetivo: transferir o comportamento de um teacher para outro modelo, normalmente menor. Quantização também não é destilação, pois reduz a precisão numérica dos pesos de um modelo já treinado, em vez de treinar um student separado para imitar um teacher.

Nessas conversas também aparecem poda, esparsidade, arquiteturas de mistura de especialistas (MoE) e geração aumentada por recuperação (RAG). Poda, esparsidade e projetos MoE alteram o cálculo ou o número de parâmetros ativos dentro de um modelo, enquanto RAG busca documentos externos durante a inferência em vez de comprimir um teacher em um student. Se você ainda está decidindo entre treinar, adaptar ou mudar o tamanho do modelo, comece pelo nosso guia sobre como escolher um modelo de IA.

Por que as equipes destilam modelos de linguagem?

As equipes de engenharia destilam um modelo de linguagem principalmente para reduzir o custo e a latência de inferência em comparação com executar um grande teacher a cada solicitação. Usar um modelo de ponta em milhões de chamadas rotineiras de classificação, extração ou redação consome muitos recursos computacionais e aumenta o tempo de resposta. Transferir essa carga para um student destilado treinado no comportamento do teacher permite que uma aplicação responda mais rápido em hardware menor ou dentro de limites de latência mais apertados.

Entender o que é um token em IA ajuda a explicar o lado da cobrança nessa decisão: cada prompt e conclusão consome recursos computacionais proporcionais ao volume de tokens e ao tamanho do modelo. Assim, transferir o tráfego frequente para um student compacto reduz diretamente o custo por solicitação. Equipes que procuram outras formas de diminuir gastos além de usar modelos menores podem combinar essa medida com as táticas do nosso guia sobre como reduzir custos de APIs de IA.

Na minha experiência revisando pipelines de IA em produção, as equipes raramente começam pela destilação no primeiro dia. A maioria começa com um grande teacher para validar a qualidade do produto e depois destila seu próprio teacher interno em um student de produção quando os padrões de tráfego se estabilizam. Laboratórios de IA seguem o mesmo padrão ao lançar versões menores de suas famílias de modelos: destilar um modelo desenvolvido internamente ou devidamente licenciado em um student menor é uma prática padrão de engenharia de produto.

O que as políticas da OpenAI dizem sobre destilação de modelos?

O treinamento de um modelo student com saídas de uma API hospedada por terceiros é regido pelos contratos do provedor. O resumo abaixo descreve as políticas publicadas até 16 de novembro de 2026, incluindo uma atualização das Usage Policies indicada como vigente a partir de 20 de novembro de 2026, e não constitui aconselhamento jurídico. Destilar um modelo próprio, ou cuja licença permita treinamento com suas saídas, é muito diferente de extrair saídas de uma API comercial em violação aos seus termos.

Terms of Use e Usage Policies

De acordo com os OpenAI Terms of Use, a seguinte atividade é proibida aos usuários: “Usar a saída para desenvolver modelos que concorram com a OpenAI.” Essa cláusula está diretamente nas restrições que regem o uso pelos clientes das saídas de modelos retornadas pelos serviços da OpenAI.

A página das OpenAI Usage Policies indica vigência a partir de 20 de novembro de 2026, portanto sua seção atualizada sobre treinamento e desenvolvimento de modelos é uma regra futura que ainda não está em vigor em 16 de novembro de 2026. Nessa página, o texto da futura política afirma que os usuários não devem usar modelos da OpenAI ou suas saídas para gerar, preparar, selecionar ou fornecer materiais ou sinais de treinamento para modelos destinados a ser alternativas ou substitutos dos modelos ou serviços da OpenAI. Isso abrange dados de treinamento, tarefas, rubricas, ambientes de aprendizado por reforço e feedback de treinamento, como rótulos, pontuações, classificações, preferências, recompensas ou correções. O texto futuro também afirma que essas restrições não proíbem usos expressamente permitidos pelo contrato de um cliente, incluindo qualquer Permitted Exception prevista no Services Agreement da OpenAI.

Medidas contra campanhas de destilação não autorizadas

Em uma publicação intitulada Disrupting a coordinated model-distillation campaign, a OpenAI descreveu a destilação adversarial como “o uso sistemático e não autorizado das saídas ou do raciocínio de um modelo para ajudar a treinar, reproduzir ou melhorar outro modelo”. A OpenAI informou ter tomado medidas em contas e medidas técnicas contra uma campanha coordenada que tentou extrair raciocínio protegido de seus modelos.

Outros provedores de modelos hospedados também restringem o uso de saídas de APIs para treinar modelos concorrentes. Como as permissões exatas, exceções empresariais e licenças de pesos abertos variam conforme o fornecedor e o plano, as equipes de engenharia devem ler os termos atuais de cada API hospedada ou licença de modelo antes de coletar saídas para um pipeline de treinamento.

O que pode dar errado com um modelo destilado?

Um modelo student destilado pode falhar em produção porque copiar as saídas de um teacher transfere pontos cegos junto com pontos fortes. Mesmo quando um student parece convincente em um benchmark limitado, três modos de falha recorrentes aparecem após a implantação:

  • Erros e vieses herdados: como o student trata as saídas do teacher como verdade de treinamento, ele pode aprender e repetir erros factuais, alucinações ou vieses sistemáticos produzidos pelo teacher.
  • Quedas fora da distribuição: corresponder às respostas finais do teacher em um conjunto de treinamento selecionado não garante a mesma confiabilidade quando usuários reais enviam entradas desconhecidas, ruidosas ou fora da distribuição.
  • Lacunas de cobertura e segurança: habilidades, casos extremos ou comportamentos de segurança que nunca aparecem no conjunto de destilação podem se degradar de forma perceptível no student, deixando lacunas que o teacher original tratava com segurança.

Para reduzir essas falhas, é necessário cobrir cuidadosamente os casos no conjunto de dados e fazer uma avaliação independente em casos extremos reais de produção, em vez de presumir que o student herdou todas as propriedades do teacher.

FAQ

Estas perguntas frequentes resumem como funciona a destilação de modelos, quando as equipes a usam e quais regras se aplicam às saídas de modelos hospedados.

Destilação de modelos é o mesmo que fine-tuning?

Destilação de modelos e fine-tuning têm objetivos diferentes. O fine-tuning atualiza os pesos de um modelo existente, geralmente mantendo o mesmo número de parâmetros, para adaptá-lo a uma tarefa ou estilo específico. A destilação transfere o comportamento de um modelo teacher maior para um modelo student separado, normalmente menor, para que as equipes executem inferências mais rapidamente e com menor custo.

Os modelos teacher e student precisam ter a mesma arquitetura?

Os modelos teacher e student não precisam compartilhar a mesma arquitetura. Como a destilação treina o student para corresponder às saídas, distribuições de probabilidade ou sinais intermediários do teacher, uma rede student menor pode aprender com um teacher maior que tenha outra estrutura interna. As equipes normalmente escolhem uma arquitetura student compacta, projetada para atendimento rápido no hardware de destino.

É possível destilar um modelo de linguagem usando saídas da API da OpenAI?

Em 16 de novembro de 2026, os Terms of Use da OpenAI, vigentes desde 1º de janeiro de 2026, já proíbem o uso de saídas para desenvolver modelos que concorram com a OpenAI. Separadamente, a página das OpenAI Usage Policies acrescenta uma seção mais detalhada sobre treinamento e desenvolvimento de modelos, indicada como vigente a partir de 20 de novembro de 2026 e ainda não em vigor em 16 de novembro de 2026. Equipes que desejam criar modelos destilados em conformidade com os termos dos provedores usam modelos próprios ou licenciados para treinamento com saídas.

Como a destilação de modelos difere da quantização e de RAG?

Destilação de modelos, quantização e geração aumentada por recuperação tratam de gargalos diferentes. A destilação treina um novo modelo student menor para imitar um teacher. A quantização reduz a precisão numérica dos pesos de um modelo existente, por exemplo de 16 bits para 8 bits ou 4 bits, para diminuir o uso de memória. A geração aumentada por recuperação busca documentos externos durante a inferência em vez de comprimir um teacher em um student.

Quais são os riscos de um modelo student destilado?

Um modelo student destilado pode herdar erros factuais ou vieses presentes nas saídas do teacher. Corresponder às respostas do teacher em exemplos de treinamento também não garante confiabilidade em prompts fora da distribuição. Por fim, habilidades ou comportamentos de segurança ausentes do conjunto de destilação podem enfraquecer de forma perceptível no student menor durante a implantação real.

Fontes

As definições técnicas e os detalhes das políticas de provedores neste guia vêm do artigo de pesquisa original e da documentação oficial da OpenAI listados abaixo.

Escrito por

Chunyu Cai

Chunyu Cai é CEO da Lotook, LLC e empreendedor. Escreve sobre modelos de IA, agentes e como eles mudam o trabalho cotidiano. Chunyu Cai tem um mestrado pela instituição Imperial College London.