AI-gidsen · 10 min lezen

RAG versus fine-tuning: wanneer ophalen en wanneer trainen?

Vergelijk RAG en fine-tuning: wanneer documenten ophalen, wanneer modelgedrag aanpassen en welke rol prompt engineering en LoRA spelen.

Illustratie van een splitsing in een donkere bibliotheekwerkplaats, met één pad naar een lichtgevend documentenarchief en het andere naar een werkbank met een hervormde modelkern

Gebruik retrieval-augmented generation (RAG) wanneer uw model privé-, recente of vaak veranderende documenten nodig heeft. Gebruik fine-tuning wanneer u een consistente toon, opmaak of taakgedrag nodig hebt en prompt engineering geen verdere vooruitgang oplevert. Deze methoden lossen verschillende problemen op. Productiesystemen combineren vaak RAG voor externe feiten met fine-tuning voor betrouwbaar uitvoergedrag.

Wat is het verschil tussen RAG en fine-tuning?

Retrieval-augmented generation (RAG) voorziet een model bij een zoekvraag van externe referentietekst. Fine-tuning werkt daarentegen de gewichten van een model bij op basis van een gerichte dataset, zodat het aangeleerde gedrag verandert. In een RAG-proces haalt een zoekstap relevante passages uit een index en voegt die toe aan het gebruikersverzoek. Zo kan het model zijn antwoord baseren op actueel of privémateriaal in plaats van uitsluitend op parameters die het tijdens de voortraining heeft geleerd. Lees voor een volledige introductie van dit ophaalpatroon onze uitleg over wat RAG is.

Bij fine-tuning wordt een basismodel verder getraind op een beperktere dataset, zodat de onderliggende parameters verschuiven. Teams gebruiken vaak supervised fine-tuning (SFT), waarbij wordt getraind op voorbeeldprompts met de gewenste uitvoer, of voorkeursmethoden zoals DPO, die leren van vergelijkingen tussen antwoorden met een hogere en lagere voorkeur. Documenten in een prompt plaatsen verandert de invoercontext voor één verzoek, terwijl fine-tuning het modelgedrag bij toekomstige verzoeken verandert.

Van het onderzoek uit 2020 naar moderne RAG-pipelines

De oorspronkelijke RAG-architectuur uit 2020 trainde een neurale retriever en generator samen. Moderne RAG-productiesystemen indexeren doorgaans in stukken verdeelde documenten en geven opgehaalde passages door in een prompt. Lewis et al. introduceerden de term in hun NeurIPS-paper uit 2020 (arXiv:2005.11401). Ze combineerden voorgetraind parametrisch geheugen (een BART-sequence-to-sequence-generator) met niet-parametrisch geheugen (een dichte vectorindex van Wikipedia die met Dense Passage Retriever, of DPR, wordt doorzocht).

De auteurs bouwden dit hybride ontwerp omdat puur parametrische modellen moeite hebben om wereldkennis nauwkeurig bij te werken, de herkomst verhullen en hallucineren. Om te bewijzen dat een index kennis zonder nieuwe training kon verversen, vervingen ze bij 82 vragen over leiderschapswisselingen een Wikipedia-index van december 2016 door een index van december 2018. Indexen met het passende jaar haalden ongeveer 70% en 68% nauwkeurigheid; bij niet-passende indexen daalde dat tot circa 12% en 4%. Dit resultaat laat zien dat het bijwerken van een index de antwoorden verandert, maar betekent niet dat precies die scores voor elke productieomgeving gelden.

Tegenwoordig trainen ontwikkelteams zelden een DPR-en-BART-paar van begin tot eind samen. Zoals beschreven in AWS Prescriptive Guidance en technische artikelen van AWS Machine Learning volgen RAG-pipelines in productie meestal drie stappen:

  1. Inlezen en indexeren: Verdeel brondocumenten in hanteerbare stukken, bereken vectorrepresentaties en sla de vectoren op naast de ruwe tekst en metadata. Zorgvuldige grenzen zijn belangrijk, zoals uitgelegd in onze gidsen over documenten opdelen voor RAG en wat een embedding is.
  2. Ophalen: Zet de binnenkomende gebruikersvraag om in een zoekopdracht, haal de top-k passages op via semantische gelijkenis, trefwoordovereenkomst of hybride zoeken en herschik de kandidaten eventueel.
  3. Verrijken en genereren: Voeg de opgehaalde passages en de gebruikersvraag toe aan een prompt, zodat het taalmodel een onderbouwd antwoord produceert.

De technische richtlijnen van AWS benadrukken dat de kwaliteit van de generatie afhangt van de ophaalkwaliteit: een RAG-systeem is slechts zo goed als zijn retriever.

Wanneer gebruikt u RAG in plaats van fine-tuning?

RAG is meestal de betere eerste stap als een toepassing afhankelijk is van privé-, recente of vaak bijgewerkte documenten die het basismodel zich niet betrouwbaar kan herinneren. Productwijzigingslogboeken, intern HR-beleid, supporttickets en technische draaiboeken veranderen voortdurend. Records toevoegen aan of vervangen in een zoekindex werkt de beschikbare kennis direct bij. Fine-tuning brengt feiten daarentegen langzaam in en kan het model kort na afloop van de training al verouderd achterlaten.

RAG ondersteunt ook de herleidbaarheid, omdat ontwikkelaars en eindgebruikers precies kunnen bekijken welke passages voor een antwoord zijn opgehaald. Volgens de openbare nauwkeurigheidsrichtlijnen van OpenAI (gecontroleerd op 18 november 2026) geeft RAG modellen toegang tot domeinspecifieke context en vertrouwen veel van de grootste klantimplementaties van OpenAI uitsluitend op prompt engineering en RAG. Ook de documentatie van OpenAI over modeloptimalisatie stelt dat fine-tuning slecht geschikt is om volledig nieuwe kennis toe te voegen en beveelt in plaats daarvan ophalen aan. Hoewel teams bij RAG nog steeds de ophaalnauwkeurigheid en onderbouwing van antwoorden moeten evalueren, kunnen ze met bestaande bestanden een eerste werkende versie lanceren zonder een grote trainingsdataset samen te stellen.

Wanneer is fine-tuning de betere volgende stap?

Fine-tuning is de juiste volgende stap wanneer een model de nodige feiten al ontvangt, maar na het bereiken van de grenzen van prompt engineering de vereiste toon, het schema of het gedragspatroon niet volgt. Zoals de richtlijnen van OpenAI vermelden (gecontroleerd op 18 november 2026), pakt fine-tuning problemen rond aangeleerd geheugen en consistentie aan: bestaande kennis in het model benadrukken, gestructureerde uitvoerformaten afdwingen, een specifieke stem aannemen of een kleiner model leren een beperkte taak betrouwbaar uit te voeren. Teams gebruiken fine-tuning ook om prompts korter te maken door lange instructies en few-shotvoorbeelden te vervangen door aangeleerd gedrag.

Start geen trainingsopdracht zonder representatieve gelabelde voorbeelden en een apart gehouden evaluatieset. De nauwkeurigheidsdocumentatie van OpenAI benadrukt dat de kwaliteit van trainingsdata zwaarder weegt dan de ruwe hoeveelheid. Zij noemt 50+ hoogwaardige voorbeelden als gebruikelijk startpunt om te testen en raadt uitbreiding alleen aan wanneer resterende fouten voortkomen uit gedrag in plaats van ontbrekende context. Beschouw 50+ als een eerste richtpunt, niet als garantie.

RAG en fine-tuning zijn ook goed te combineren. Als evaluaties zowel ontbrekende context als afwijkende opmaak tonen, kunnen teams een model finetunen met trainingsvoorbeelden in RAG-formaat. Zo leert het opgehaalde passages betrouwbaar te lezen en te citeren in plaats van opgehaalde context zonder voorbeelden te verwerken. Fine-tuning blijft als techniek actief bij open-weightmodellen en meerdere aanbieders, maar individuele aanbiedingen veranderen: op 18 november 2026 stelt OpenAI dat zijn fine-tuningplatform wordt afgebouwd en gesloten is voor nieuwe gebruikers. In aanmerking komende bestaande klanten kunnen tot 6 januari 2027 trainingsopdrachten uitvoeren (tenzij een basismodel eerder wordt uitgefaseerd), en getrainde modellen blijven beschikbaar voor inferentie totdat het basismodel wordt uitgefaseerd.

De rol van prompt engineering en LoRA

Prompt engineering biedt de snelste basislijn voordat u een ophaalindex of trainingspipeline bouwt. Low-Rank Adaptation (LoRA) maakt fine-tuning lichter door kleine adaptermatrices te trainen in plaats van alle modelgewichten.

Eerst prompt engineering

Prompt engineering combineert duidelijke instructies, uitvoerbeperkingen en few-shotvoorbeelden binnen elk verzoek. Omdat er geen zoekindex of trainingslus nodig is, zou elk team eerst prompt engineering moeten benutten om een prestatiebasislijn vast te stellen. De grenzen worden zichtbaar wanneer werkprocessen groeien: prompts zijn beperkt door het contextvenster, lange few-shotinstructies verhogen de latentie en tokenoverhead, en prompting alleen kan geen privécorpus doorzoeken. Voeg ophalen toe als ontbrekende documenten fouten veroorzaken; overweeg fine-tuning wanneer de consistentie van de uitvoer stagneert.

LoRA en parameterefficiënte fine-tuning

Fine-tuning vereist niet dat elke parameter van een groot model wordt bijgewerkt of dat voor elk gebruik een volledig afzonderlijk checkpoint op ware grootte wordt ingezet. LoRA, geïntroduceerd door Hu et al. (ICLR 2022; arXiv:2106.09685), bevriest de voorgetrainde modelgewichten en voegt kleine, trainbare matrices voor lage-rangdecompositie toe aan geselecteerde lagen, zoals de aandachtsgewichten van een Transformer. Omdat de training alleen die compacte adapters bijwerkt, passen teams modellen aan met veel minder trainbare parameters. Bij inferentie kunnen LoRA-adapters weer met de basisgewichten worden samengevoegd zonder extra latentie ten opzichte van het oorspronkelijke model, of dynamisch per taak worden verwisseld.

Een praktisch besliskader voor teams

De keuze tussen RAG en fine-tuning werkt het beste als een reeks technische controles op data-actualiteit, gedragseisen, evaluatiegereedheid en operationele belasting. Doorloop deze zes vragen voordat u ontwikkeltijd investeert:

  1. Is de benodigde kennis privé, nieuw of vaak aan verandering onderhevig? Begin met RAG, zodat u kennis kunt bijwerken door de index te actualiseren.
  2. Moet u toon, schema of taakconsistentie aanpassen? Begin met prompt engineering en overweeg fine-tuning pas als prompts niet verder verbeteren.
  3. Hebt u gelabelde voorbeelden en een manier om te evalueren? Fine-tuning vereist representatieve invoer-uitvoerparen en een apart gehouden evaluatieset voordat de training begint.
  4. Welke operationele cyclus past bij uw team? RAG voegt documentinname, opdelen, rechten en afstelling van het ophalen toe; fine-tuning voegt datasetsamenstelling, trainingsruns en hernieuwde evaluatie bij elke update van het basismodel toe.
  5. Schaden lange prompts de efficiëntie bij een stabiele taak? Fine-tuning kan herhaalde instructies in de modelgewichten vastleggen om prompts te verkorten of een kleiner model te ondersteunen.
  6. Komen beide problemen in evaluaties naar voren? Combineer prompt engineering, RAG voor dynamische feiten en fine-tuning op RAG-achtige voorbeelden voor betrouwbaar gedrag.
Situatie Meestal beginnen met Waarom
Privédocumenten of vaak bijgewerkte documenten moeten het antwoord onderbouwen RAG (na een basisprompt) Kennis staat in een index die zonder nieuwe training wordt bijgewerkt
U hebt een consistente stem, sjabloon of gestructureerde uitvoer nodig Prompt engineering, daarna fine-tuning als prompts stagneren Het uitvoerformaat is een gedragsprobleem, geen gebrek in documentzoekopdrachten
Zowel veranderende feiten als een strikte huisstijl RAG plus prompts, overweeg daarna fine-tuning op RAG-voorbeelden Ophalen levert actuele feiten terwijl training het formaat vastlegt
U hebt geen evaluatieset en geen gelabelde uitvoer Prompts en zo nodig RAG (wacht met fine-tuning) Zonder evaluaties kunt u niet nagaan of training de resultaten verbeterde
U wilt dat het model een veranderend feitenoverzicht onthoudt RAG of een speciaal zoekhulpmiddel Fine-tuning werkt langzaam bij en kan snel verouderen

Wat gaat er bij elke aanpak nog mis?

Zowel RAG als fine-tuning kent eigen foutvormen. Geen van beide technieken elimineert hallucinaties of neemt de noodzaak van evaluatie en toegangscontrole weg.

Foutvormen bij RAG

  • Hallucinaties blijven bestaan: Een model kan opgehaalde passages negeren, opgehaalde context mengen met tegenstrijdig parametrisch geheugen of een antwoord verzinnen als het ophalen niets relevants oplevert. Onze gids over AI-hallucinatiepercentages legt uit waarom onderbouwing het risico op verzinsels vermindert maar niet wegneemt.
  • Gemiste resultaten en verouderde indexen: RAG faalt als indexen verouderde of tegenstrijdige bestanden bevatten, als stukken belangrijke context afsnijden of als te veel vrijwel dubbele stukken de prompt vullen. Problemen met RAG opsporen begint met het bekijken van de opgehaalde passages.
  • Indirecte promptinjectie: Opgehaalde documenten uit externe of door gebruikers bewerkbare bronnen kunnen verborgen instructies bevatten die de modeluitvoer proberen over te nemen. Scheid vertrouwde systeemprompts altijd van opgehaalde tekst, zoals uitgelegd in ons overzicht van promptinjectie.
  • Toegangslekken en te grote contexten: Elk document in een gedeelde index kan zichtbaar worden voor gebruikers die het systeem bevragen, tenzij rechten de ophaalresultaten filteren. Te veel opgehaalde tekst in een prompt stoppen kan er ook toe leiden dat modellen informatie die in het midden verborgen zit uit het oog verliezen.

Foutvormen bij fine-tuning

  • Overfitting en datasetartefacten: Modellen die op beperkte of niet-representatieve voorbeelden zijn getraind, kunnen eigenaardigheden in de opmaak onthouden en falen wanneer echte productie-invoer varieert.
  • Verouderde feiten en hiaten in governance: Fine-tuning houdt feitenkennis niet vanzelf actueel en het trainen van gewichten vervangt nooit hulpmiddelrechten, invoerbeveiligingen of evaluatie na de training.

FAQ

Kunt u RAG en fine-tuning in hetzelfde systeem combineren?

Ja, RAG en fine-tuning vullen elkaar aan en worden in productie vaak gecombineerd. RAG haalt bij een vraag actuele of privéfeiten op, terwijl fine-tuning toon, uitvoerschema of naleving van instructies afdwingt. Neem bij het finetunen van een RAG-model opgehaalde passages op in de trainingsvoorbeelden, zodat het model oefent met antwoorden onderbouwen vanuit de context.

Elimineert RAG AI-hallucinaties volledig?

Nee, RAG vermindert het risico op verzinsels door het model relevante brontekst te geven, maar hallucinaties komen nog steeds voor. Modellen kunnen opgehaalde stukken verkeerd lezen, opgehaalde feiten mengen met tegenstrijdig voorgetraind geheugen of gokken wanneer het ophalen mislukt. Teams hebben zowel meetwaarden voor ophaaltreffers als evaluaties van de onderbouwing nodig om onbewezen beweringen te vinden.

Hoeveel voorbeelden hebt u nodig voor fine-tuning van een model?

Geen enkele datasetgrootte garandeert succes, omdat de kwaliteit van voorbeelden en hun representativiteit voor productie belangrijker zijn dan de ruwe hoeveelheid. De nauwkeurigheidsrichtlijnen van OpenAI (gecontroleerd op 18 november 2026) noemen 50+ sterke voorbeelden met een apart gehouden evaluatieset als praktisch startpunt. Evalueer vroeg, controleer of fouten uit gedrag voortkomen en breid voorzichtig uit.

Is LoRA beter dan volledige fine-tuning?

LoRA is een parameterefficiënte fine-tuningmethode die een lichter alternatief biedt, maar niet altijd beter is dan volledige fine-tuning. Door voorgetrainde gewichten te bevriezen en compacte matrices met lage rang te trainen, vermindert LoRA het aantal trainbare parameters en kan het zonder extra latentie met de basisgewichten worden samengevoegd. Vergelijk beide aanpakken met uw evaluatieset.

Wanneer volstaat prompt engineering zonder RAG of fine-tuning?

Prompt engineering alleen werkt wanneer het basismodel de domeinfeiten al kent, referentiemateriaal gemakkelijk in de prompt past en duidelijke instructies met enkele voorbeelden consistente uitvoer opleveren. Voeg RAG toe wanneer privé- of veranderende documenten ontbreken en voeg fine-tuning pas toe wanneer prompts bij toon, structuur of tokenefficiëntie stagneren.

Bronnen

Geschreven door

Chunyu Cai

Chunyu Cai is CEO van Lotook, LLC en ondernemer. Hij schrijft over AI-modellen, agenten en hoe ze het dagelijkse werk veranderen. Chunyu Cai heeft een masterdiploma van Imperial College London.