Guias de IA · 11 min de leitura

RAG vs. fine-tuning: quando buscar e quando treinar

Compare RAG e fine-tuning: quando buscar documentos, alterar o comportamento do modelo e usar engenharia de prompts ou LoRA.

Ilustração de um caminho bifurcado em uma oficina-biblioteca escura: uma rota leva a um arquivo de documentos brilhante e a outra a uma bancada com um núcleo de modelo remodelado

Use retrieval-augmented generation (RAG, geração aumentada por recuperação) quando seu modelo precisar de documentos privados, recentes ou que mudam com frequência. Use fine-tuning quando precisar de tom, formatação ou comportamento de tarefa consistentes e a engenharia de prompts deixar de trazer melhorias. Esses métodos resolvem problemas diferentes, e sistemas em produção frequentemente combinam RAG para fatos externos com fine-tuning para um comportamento de saída confiável.

Qual é a diferença entre RAG e fine-tuning?

Retrieval-augmented generation (RAG) fornece textos de referência externos ao modelo no momento da consulta, enquanto o fine-tuning atualiza os pesos do modelo em um conjunto de dados direcionado para mudar seu comportamento aprendido. Em um fluxo RAG, uma etapa de busca recupera trechos relevantes de um índice e os adiciona à solicitação do usuário. Assim, o modelo pode fundamentar a resposta em material atual ou privado, em vez de depender apenas dos parâmetros aprendidos no pré-treinamento. Para uma introdução completa ao padrão de recuperação, veja nosso guia sobre o que é RAG.

O fine-tuning continua o treinamento de um modelo base com um conjunto de dados mais restrito, alterando seus parâmetros subjacentes. As equipes costumam usar fine-tuning supervisionado (SFT), que treina com exemplos de prompts associados às saídas desejadas, ou métodos de preferência como DPO, que aprendem comparando respostas preferidas e menos preferidas. Colocar documentos em um prompt muda o contexto de entrada de uma única solicitação, enquanto o fine-tuning remodela o comportamento do modelo em solicitações futuras.

Do artigo de pesquisa de 2020 aos pipelines RAG modernos

A arquitetura RAG original de 2020 treinava um recuperador neural e um gerador em conjunto. Os sistemas RAG modernos em produção, por sua vez, costumam indexar documentos divididos em partes e passar os trechos recuperados em um prompt. Lewis et al. apresentaram o termo em seu artigo da NeurIPS 2020 (arXiv:2005.11401), combinando memória paramétrica pré-treinada (um gerador BART de sequência para sequência) com memória não paramétrica (um índice vetorial denso da Wikipedia consultado pelo Dense Passage Retriever, ou DPR).

Os autores criaram esse projeto híbrido porque modelos puramente paramétricos têm dificuldade para atualizar com precisão o conhecimento sobre o mundo, obscurecem a origem das informações e alucinam. Para demonstrar que um índice poderia atualizar o conhecimento sem novo treinamento, trocaram um índice da Wikipedia de dezembro de 2016 por um de dezembro de 2018 em 82 perguntas sobre mudanças de liderança. Os índices do ano correspondente alcançaram cerca de 70% e 68% de precisão, enquanto os de anos diferentes caíram para aproximadamente 12% e 4%. O resultado mostra que atualizar um índice atualiza as respostas, sem implicar que essas mesmas pontuações se apliquem a toda implantação em produção.

Hoje, equipes de engenharia raramente treinam um par DPR e BART de ponta a ponta. Em vez disso, como descrito no AWS Prescriptive Guidance e em publicações técnicas do AWS Machine Learning, pipelines RAG em produção geralmente seguem três etapas:

  1. Ingerir e indexar: Divida os documentos de origem em partes administráveis, calcule representações vetoriais e salve os vetores junto com o texto bruto e os metadados. Escolher cuidadosamente os limites é importante, como explicam nossos guias sobre como dividir documentos para RAG e o que é um embedding.
  2. Recuperar: Converta a pergunta recebida do usuário em uma consulta de busca, obtenha os trechos top-k por similaridade semântica, correspondência de palavras-chave ou busca híbrida e, opcionalmente, reordene os candidatos.
  3. Aumentar e gerar: Insira os trechos recuperados e a pergunta do usuário em um prompt para que o modelo de linguagem produza uma resposta fundamentada.

As orientações técnicas da AWS enfatizam que a qualidade da geração depende da qualidade da recuperação: um sistema RAG é tão bom quanto seu recuperador.

Quando usar RAG em vez de fine-tuning?

RAG costuma ser o melhor primeiro passo quando uma aplicação depende de documentos privados, recentes ou atualizados com frequência que o modelo base não consegue recuperar da memória com confiabilidade. Registros de alterações de produtos, políticas internas de RH, chamados de suporte e manuais técnicos de operação mudam constantemente. Adicionar ou substituir registros em um índice de busca atualiza imediatamente o conhecimento disponível, enquanto o fine-tuning incorpora fatos lentamente e pode deixar o modelo desatualizado pouco depois do fim do treinamento.

RAG também favorece a rastreabilidade da origem, pois engenheiros e usuários finais podem examinar os trechos exatos recuperados para uma resposta. Segundo as orientações públicas de precisão da OpenAI (consultadas em 18 de novembro de 2026), RAG dá aos modelos acesso a contexto específico do domínio, e muitas das maiores implantações de clientes da OpenAI dependem apenas de engenharia de prompts e RAG. A documentação da OpenAI sobre otimização de modelos também observa que fine-tuning não é adequado para adicionar conhecimentos inteiramente novos e recomenda a recuperação. Embora RAG ainda exija avaliar a precisão da recuperação e a fundamentação das respostas, as equipes podem lançar uma primeira versão funcional a partir de arquivos existentes, sem preparar um grande conjunto de dados de treinamento.

Quando o fine-tuning é o melhor próximo passo?

O fine-tuning passa a ser o próximo passo adequado quando um modelo já recebe os fatos necessários, mas não segue o tom, o esquema ou o padrão de comportamento exigido depois que a engenharia de prompts atinge seu limite. Como indicado nas orientações da OpenAI (consultadas em 18 de novembro de 2026), o fine-tuning trata de desafios de memória aprendida e consistência: enfatizar conhecimentos já presentes no modelo, impor formatos estruturados de saída, adotar uma voz específica ou ensinar um modelo menor a executar uma tarefa restrita com confiabilidade. As equipes também usam fine-tuning para encurtar prompts, substituindo instruções longas e exemplos few-shot por comportamento aprendido.

Não inicie um trabalho de treinamento sem exemplos rotulados representativos e um conjunto de avaliação separado. A documentação de precisão da OpenAI destaca que a qualidade dos dados de treinamento pesa mais que a quantidade bruta. Ela cita 50+ exemplos de alta qualidade como ponto de partida comum para testes e recomenda ampliar apenas quando os erros restantes resultarem do comportamento, e não da falta de contexto. Trate 50+ como referência inicial, não como garantia.

RAG e fine-tuning também funcionam bem juntos. Se as avaliações revelarem tanto falta de contexto quanto desvios de formatação, as equipes podem ajustar um modelo com exemplos de treinamento no formato RAG para que ele aprenda a ler e citar os trechos recuperados de forma confiável, em vez de lidar com o contexto recuperado sem exemplos prévios. Embora o fine-tuning continue sendo usado como técnica em modelos de pesos abertos e por vários provedores, as ofertas individuais mudam: em 18 de novembro de 2026, a OpenAI informa que sua plataforma de fine-tuning está sendo encerrada e não aceita novos usuários. Clientes existentes elegíveis podem executar trabalhos de treinamento até 6 de janeiro de 2027 (a menos que um modelo base seja descontinuado antes), e os modelos treinados continuam disponíveis para inferência até a descontinuação do modelo base.

O papel da engenharia de prompts e do LoRA

A engenharia de prompts oferece a referência inicial mais rápida antes da criação de um índice de recuperação ou pipeline de treinamento. Low-Rank Adaptation (LoRA) torna o fine-tuning mais leve ao treinar pequenas matrizes adaptadoras em vez de todos os pesos do modelo.

Primeiro, engenharia de prompts

A engenharia de prompts combina instruções claras, restrições de saída e exemplos few-shot em cada solicitação. Como não exige índice de busca nem ciclo de treinamento, toda equipe deve explorá-la primeiro para estabelecer uma referência de desempenho. Seus limites aparecem conforme os fluxos de trabalho crescem: prompts são limitados pela janela de contexto, instruções few-shot longas acrescentam latência e custo adicional de tokens, e o uso de prompts por si só não consegue pesquisar um corpus privado. Quando a falta de documentos causar falhas, adicione recuperação; quando a consistência das saídas estagnar, considere fine-tuning.

LoRA e fine-tuning eficiente em parâmetros

O fine-tuning não exige atualizar todos os parâmetros de um modelo grande nem implantar um checkpoint completo e separado para cada caso de uso. Apresentado por Hu et al. (ICLR 2022; arXiv:2106.09685), LoRA congela os pesos pré-treinados do modelo e insere pequenas matrizes treináveis de decomposição de baixo posto em camadas selecionadas, como os pesos de atenção do Transformer. Como o treinamento atualiza apenas esses adaptadores compactos, as equipes adaptam modelos com muito menos parâmetros treináveis. Na inferência, os adaptadores LoRA podem ser mesclados aos pesos base sem latência adicional em relação ao modelo original ou trocados dinamicamente conforme a tarefa.

Um guia prático de decisão para equipes

A escolha entre RAG e fine-tuning funciona melhor como uma sequência de verificações técnicas sobre atualização dos dados, requisitos de comportamento, preparo para avaliação e carga operacional. Analise estas seis perguntas antes de dedicar tempo de engenharia:

  1. O conhecimento necessário é privado, novo ou muda com frequência? Comece com RAG para atualizar o conhecimento por meio da atualização do índice.
  2. Você precisa ajustar tom, esquema ou consistência da tarefa? Comece com engenharia de prompts e considere fine-tuning apenas se os prompts deixarem de melhorar.
  3. Você tem exemplos rotulados e uma forma de avaliar? O fine-tuning exige pares representativos de entrada e saída e um conjunto de avaliação separado antes do início do treinamento.
  4. Qual ciclo operacional combina com sua equipe? RAG acrescenta ingestão e divisão de documentos, permissões e ajuste da recuperação; fine-tuning acrescenta preparação do conjunto de dados, execuções de treinamento e reavaliação a cada atualização do modelo base.
  5. Prompts longos prejudicam a eficiência em uma tarefa estável? O fine-tuning pode incorporar instruções repetidas aos pesos do modelo para encurtar prompts ou permitir o uso de um modelo menor.
  6. Os dois problemas aparecem nas avaliações? Combine engenharia de prompts, RAG para fatos dinâmicos e fine-tuning com exemplos no estilo RAG para obter comportamento confiável.
Situação Geralmente comece com Por quê
Documentos privados ou atualizados com frequência precisam fundamentar a resposta RAG (após um prompt de referência) O conhecimento fica em um índice atualizado sem novo treinamento
Você precisa de voz, modelo de documento ou saída estruturada consistentes Engenharia de prompts e depois fine-tuning se os prompts estagnarem O formato de saída é uma questão de comportamento, não uma deficiência da busca documental
Fatos que mudam e um estilo institucional rigoroso RAG e prompts, depois considere fine-tuning com exemplos RAG A recuperação fornece fatos atuais enquanto o treinamento fixa o formato
Você não tem conjunto de avaliação nem saídas rotuladas Prompts e, se necessário, RAG (aguarde para fazer fine-tuning) Sem avaliações não é possível verificar se o treinamento melhorou os resultados
Você quer que o modelo memorize uma ficha de fatos que muda RAG ou ferramenta de busca dedicada O fine-tuning demora para atualizar e corre o risco de ficar obsoleto rapidamente

O que ainda pode dar errado em cada abordagem?

RAG e fine-tuning apresentam modos de falha distintos, e nenhuma das técnicas elimina alucinações ou a necessidade de avaliação e controles de acesso.

Falhas do RAG

  • As alucinações persistem: Um modelo pode ignorar trechos recuperados, misturar o contexto recuperado com memória paramétrica conflitante ou inventar uma resposta quando a recuperação não encontra nada relevante. Nosso guia sobre taxas de alucinação de IA explica por que fundamentar respostas reduz, mas não elimina, o risco de invenção.
  • Resultados não encontrados e índices obsoletos: RAG falha quando os índices contêm arquivos desatualizados ou contraditórios, quando os fragmentos cortam contexto essencial ou quando fragmentos quase duplicados demais lotam o prompt. A investigação de problemas em RAG começa pelo exame dos trechos recuperados.
  • Injeção indireta de prompt: Documentos recuperados de fontes externas ou editáveis por usuários podem conter instruções ocultas criadas para sequestrar a saída do modelo. Sempre separe prompts de sistema confiáveis do texto recuperado, como explica nossa visão geral sobre o que é injeção de prompt.
  • Vazamentos de acesso e contextos grandes demais: Qualquer documento em um índice compartilhado pode aparecer para usuários que consultam o sistema, a menos que permissões filtrem os resultados recuperados. Colocar texto recuperado demais em um prompt também pode fazer os modelos perderem o foco em informações enterradas no meio.

Falhas do fine-tuning

  • Sobreajuste e artefatos do conjunto de dados: Modelos treinados com exemplos limitados ou não representativos podem memorizar peculiaridades de formatação e falhar quando as entradas reais em produção variam.
  • Fatos desatualizados e lacunas de governança: O fine-tuning não mantém o conhecimento factual atualizado por si só, e treinar pesos nunca substitui permissões de ferramentas, proteções de entrada ou avaliação após o treinamento.

FAQ

É possível combinar RAG e fine-tuning no mesmo sistema?

Sim. RAG e fine-tuning se complementam e frequentemente são combinados em produção. RAG recupera fatos atuais ou privados no momento da consulta, enquanto o fine-tuning impõe tom, esquema de saída ou cumprimento de instruções. Ao ajustar um modelo RAG, inclua trechos recuperados nos exemplos de treinamento para que o modelo pratique fundamentar respostas no contexto.

RAG elimina completamente as alucinações de IA?

Não. RAG reduz o risco de invenção ao fornecer textos de origem relevantes ao modelo, mas alucinações ainda acontecem. Modelos podem interpretar mal fragmentos recuperados, misturar fatos recuperados com memória pré-treinada conflitante ou adivinhar quando a recuperação falha. As equipes precisam de métricas de acerto da recuperação e de avaliações de fundamentação para detectar afirmações sem apoio.

Quantos exemplos são necessários antes de ajustar um modelo?

Nenhum tamanho de conjunto de dados garante sucesso, pois a qualidade dos exemplos e sua representatividade em produção importam mais que o volume bruto. As orientações de precisão da OpenAI (consultadas em 18 de novembro de 2026) citam 50+ bons exemplos junto com um conjunto de avaliação separado como ponto de partida prático. Avalie cedo, verifique se os erros decorrem do comportamento e amplie com cuidado.

LoRA é melhor que o fine-tuning completo?

LoRA é um método de fine-tuning eficiente em parâmetros que serve como alternativa mais leve, mas não supera universalmente o fine-tuning completo. Ao congelar pesos pré-treinados e treinar matrizes compactas de baixo posto, LoRA reduz os parâmetros treináveis e pode ser mesclado aos pesos base sem latência adicional. Compare as duas abordagens usando seu conjunto de avaliação.

Quando a engenharia de prompts basta sem RAG ou fine-tuning?

A engenharia de prompts sozinha funciona quando o modelo base já conhece os fatos do domínio, o material de referência cabe confortavelmente no prompt e instruções claras com alguns exemplos geram saídas consistentes. Adicione RAG quando faltarem documentos privados ou que mudam e acrescente fine-tuning apenas quando os prompts deixarem de melhorar em tom, estrutura ou eficiência de tokens.

Fontes

Escrito por

Chunyu Cai

Chunyu Cai é CEO da Lotook, LLC e empreendedor. Escreve sobre modelos de IA, agentes e como eles mudam o trabalho cotidiano. Chunyu Cai tem um mestrado pela instituição Imperial College London.