Guide sull’IA · 11 min di lettura

RAG vs fine-tuning: quando recuperare e quando addestrare

Confronta RAG e fine-tuning: quando recuperare documenti, modificare il comportamento del modello e usare prompt engineering o LoRA.

Illustrazione di un bivio in un laboratorio-biblioteca buio: un percorso conduce a un archivio di documenti luminoso, l'altro a un banco con un nucleo di modello rimodellato

Usa la retrieval-augmented generation (RAG, generazione aumentata dal recupero) quando il modello ha bisogno di documenti privati, recenti o soggetti a frequenti cambiamenti; usa il fine-tuning quando servono tono, formattazione o comportamento coerenti e il prompt engineering non produce più miglioramenti. Questi metodi risolvono problemi diversi e i sistemi in produzione combinano spesso RAG per i fatti esterni e fine-tuning per un comportamento affidabile nelle risposte.

Qual è la differenza tra RAG e fine-tuning?

La retrieval-augmented generation (RAG) fornisce al modello testi di riferimento esterni al momento della richiesta, mentre il fine-tuning aggiorna i pesi del modello su un dataset mirato per modificarne il comportamento appreso. In un flusso RAG, una ricerca recupera passaggi pertinenti da un indice e li aggiunge alla richiesta dell’utente. Il modello può così fondare la risposta su materiale aggiornato o privato, anziché affidarsi solo ai parametri appresi durante il preaddestramento. Per un’introduzione completa al recupero, consulta la nostra guida su cos’è la RAG.

Il fine-tuning prosegue l’addestramento di un modello di base su un dataset più circoscritto, modificandone i parametri sottostanti. I team usano comunemente il fine-tuning supervisionato (SFT), che addestra su esempi di prompt abbinati alle risposte desiderate, oppure metodi basati sulle preferenze come DPO, che apprendono dal confronto tra risposte preferite e meno preferite. Inserire documenti in un prompt cambia il contesto di input per una singola richiesta, mentre il fine-tuning rimodella il comportamento del modello nelle richieste future.

Dalla ricerca del 2020 alle moderne pipeline RAG

L’architettura RAG originale del 2020 addestrava insieme un recuperatore neurale e un generatore; i moderni sistemi RAG in produzione indicizzano invece di norma documenti suddivisi in frammenti e passano i brani recuperati a un prompt. Lewis et al. introdussero il termine nel loro articolo NeurIPS 2020 (arXiv:2005.11401), combinando una memoria parametrica preaddestrata (un generatore BART da sequenza a sequenza) con una memoria non parametrica (un indice vettoriale denso di Wikipedia interrogato tramite Dense Passage Retriever, o DPR).

Gli autori crearono questo progetto ibrido perché i modelli puramente parametrici faticano ad aggiornare con precisione la conoscenza del mondo, nascondono la provenienza e producono allucinazioni. Per dimostrare che un indice poteva aggiornare la conoscenza senza riaddestramento, sostituirono un indice Wikipedia di dicembre 2016 con uno di dicembre 2018 su 82 domande riguardanti cambi di leadership. Gli indici dell’anno corrispondente ottennero circa il 70% e il 68% di accuratezza, mentre quelli non corrispondenti scesero a circa il 12% e il 4%. Il risultato dimostra che aggiornare un indice aggiorna le risposte, ma non implica che quegli stessi punteggi valgano per ogni implementazione in produzione.

Oggi i team tecnici addestrano raramente una coppia DPR e BART dall’inizio alla fine. Come illustrato in AWS Prescriptive Guidance e negli articoli tecnici di AWS Machine Learning, le pipeline RAG in produzione seguono di solito tre fasi:

  1. Acquisizione e indicizzazione: Suddividi i documenti sorgente in parti gestibili, calcola le rappresentazioni vettoriali e salva i vettori insieme al testo grezzo e ai metadati. Scegliere con cura i confini è importante, come spiegano le nostre guide su come suddividere i documenti per RAG e cos’è un embedding.
  2. Recupero: Converti la domanda dell’utente in una query di ricerca, recupera i passaggi top-k tramite similarità semantica, corrispondenza di parole chiave o ricerca ibrida e, se necessario, riordina i candidati.
  3. Arricchimento e generazione: Inserisci i passaggi recuperati e la domanda dell’utente in un prompt affinché il modello linguistico produca una risposta fondata sulle fonti.

Le indicazioni tecniche di AWS sottolineano che la qualità della generazione dipende da quella del recupero: un sistema RAG è valido quanto il suo recuperatore.

Quando usare RAG invece del fine-tuning?

RAG è di solito il primo passo migliore quando un’applicazione dipende da documenti privati, recenti o aggiornati spesso che il modello di base non riesce a ricordare in modo affidabile. Registri delle modifiche ai prodotti, politiche interne delle risorse umane, ticket di assistenza e procedure operative tecniche cambiano continuamente. Aggiungere o sostituire record in un indice di ricerca aggiorna subito le conoscenze disponibili; il fine-tuning incorpora invece i fatti lentamente e può lasciare il modello già obsoleto poco dopo l’addestramento.

RAG favorisce anche la tracciabilità della provenienza, perché sviluppatori e utenti finali possono esaminare i passaggi esatti recuperati per una risposta. Secondo le indicazioni pubbliche di OpenAI sull’accuratezza (verificate il 18 novembre 2026), RAG offre ai modelli accesso a contesto specifico del dominio e molte delle maggiori implementazioni dei clienti OpenAI si basano esclusivamente su prompt engineering e RAG. Anche la documentazione OpenAI sull’ottimizzazione dei modelli osserva che il fine-tuning non è adatto ad aggiungere conoscenze del tutto nuove e raccomanda invece il recupero. Sebbene con RAG occorra comunque valutare l’accuratezza del recupero e il fondamento delle risposte, i team possono avviare una prima versione funzionante dai file esistenti senza preparare un grande dataset di addestramento.

Quando il fine-tuning è il passo successivo migliore?

Il fine-tuning diventa il passo giusto quando un modello riceve già i fatti necessari ma non segue il tono, lo schema o il comportamento richiesto dopo che il prompt engineering ha raggiunto un limite. Come indicato dalle linee guida OpenAI (verificate il 18 novembre 2026), il fine-tuning affronta problemi di memoria appresa e coerenza: può enfatizzare conoscenze già presenti nel modello, imporre formati di output strutturati, adottare una voce specifica o insegnare a un modello più piccolo a svolgere un compito circoscritto in modo affidabile. I team lo usano anche per accorciare i prompt, sostituendo istruzioni lunghe ed esempi few-shot con comportamenti appresi.

Non avviare un processo di addestramento senza esempi etichettati rappresentativi e un insieme di valutazione tenuto da parte. La documentazione OpenAI sull’accuratezza sottolinea che la qualità dei dati di addestramento conta più della quantità grezza. Indica 50+ esempi di alta qualità come punto di partenza comune per testare e raccomanda di ampliare il dataset solo se gli errori rimanenti dipendono dal comportamento anziché dalla mancanza di contesto. Considera 50+ un riferimento iniziale, non una garanzia.

RAG e fine-tuning si combinano bene. Se le valutazioni mostrano sia contesto mancante sia deviazioni di formattazione, i team possono adattare un modello con esempi di addestramento in formato RAG, così che impari a leggere e citare in modo affidabile i passaggi recuperati invece di gestire il contesto recuperato senza esempi. Il fine-tuning resta una tecnica attiva per modelli a pesi aperti e presso diversi fornitori, ma le singole offerte cambiano: al 18 novembre 2026 OpenAI dichiara che la sua piattaforma di fine-tuning è in fase di chiusura e non accetta nuovi utenti. I clienti esistenti idonei possono eseguire addestramenti fino al 6 gennaio 2027 (salvo ritiro anticipato del modello di base) e i modelli addestrati restano disponibili per l’inferenza fino al ritiro del modello di base.

Il ruolo di prompt engineering e LoRA

Il prompt engineering offre il riferimento iniziale più rapido prima di costruire un indice di recupero o una pipeline di addestramento. Low-Rank Adaptation (LoRA) alleggerisce il fine-tuning addestrando piccole matrici adattatrici invece di tutti i pesi del modello.

Prima il prompt engineering

Il prompt engineering combina istruzioni chiare, vincoli sull’output ed esempi few-shot in ogni richiesta. Poiché non richiede un indice di ricerca né un ciclo di addestramento, ogni team dovrebbe prima sfruttarlo per stabilire una base di prestazioni. I suoi limiti emergono quando i flussi di lavoro crescono: i prompt sono limitati dalla finestra di contesto, lunghe istruzioni few-shot aumentano latenza e consumo di token e il solo prompting non può cercare in un corpus privato. Se la mancanza di documenti causa errori, aggiungi il recupero; se la coerenza delle risposte ristagna, considera il fine-tuning.

LoRA e fine-tuning efficiente nei parametri

Il fine-tuning non richiede di aggiornare ogni parametro di un modello grande né di distribuire un checkpoint completo e separato per ogni caso d’uso. Introdotto da Hu et al. (ICLR 2022; arXiv:2106.09685), LoRA congela i pesi preaddestrati del modello e inserisce piccole matrici addestrabili di decomposizione a basso rango in livelli selezionati, come i pesi di attenzione del Transformer. Poiché l’addestramento aggiorna solo questi adattatori compatti, i team adattano i modelli con molti meno parametri addestrabili. Durante l’inferenza gli adattatori LoRA possono essere uniti ai pesi di base senza latenza aggiuntiva rispetto al modello originale oppure sostituiti dinamicamente in base al compito.

Un quadro decisionale pratico per i team

La scelta tra RAG e fine-tuning funziona meglio come una serie di verifiche tecniche su aggiornamento dei dati, requisiti di comportamento, preparazione alla valutazione e oneri operativi. Esamina queste sei domande prima di investire tempo di sviluppo:

  1. Le conoscenze necessarie sono private, nuove o cambiano spesso? Inizia con RAG per aggiornarle modificando l’indice.
  2. Devi adattare tono, schema o coerenza del compito? Inizia dal prompt engineering e valuta il fine-tuning solo se i prompt non migliorano più.
  3. Hai esempi etichettati e un modo per valutare? Il fine-tuning richiede coppie rappresentative di input e output e un insieme di valutazione separato prima dell’addestramento.
  4. Quale ciclo operativo è adatto al tuo team? RAG aggiunge acquisizione e suddivisione dei documenti, autorizzazioni e ottimizzazione del recupero; il fine-tuning aggiunge preparazione dei dati, esecuzioni di addestramento e rivalutazione a ogni aggiornamento del modello di base.
  5. I prompt lunghi riducono l’efficienza in un compito stabile? Il fine-tuning può incorporare istruzioni ripetute nei pesi del modello per accorciare i prompt o supportare un modello più piccolo.
  6. Le valutazioni mostrano entrambi i problemi? Combina prompt engineering, RAG per i fatti dinamici e fine-tuning su esempi in stile RAG per un comportamento affidabile.
Situazione Di solito inizia con Perché
Documenti privati o aggiornati spesso devono fondare la risposta RAG (dopo un prompt di riferimento) La conoscenza è in un indice aggiornabile senza riaddestramento
Servono voce, modello o output strutturato coerenti Prompt engineering, poi fine-tuning se i prompt ristagnano Il formato di output è un problema di comportamento, non una mancanza della ricerca documentale
Servono sia fatti variabili sia uno stile aziendale rigoroso RAG e prompt, poi valuta fine-tuning su esempi RAG Il recupero fornisce fatti aggiornati e l’addestramento fissa il formato
Non hai un insieme di valutazione né output etichettati Prompt e, se necessario, RAG (rimanda il fine-tuning) Senza valutazioni non puoi verificare se l’addestramento ha migliorato i risultati
Vuoi che il modello memorizzi una scheda di fatti variabile RAG o uno strumento di ricerca dedicato Il fine-tuning si aggiorna lentamente e rischia di diventare presto obsoleto

Cosa può ancora andare storto con ciascun approccio?

Sia RAG sia il fine-tuning introducono modalità di errore distinte e nessuna delle due tecniche elimina le allucinazioni o la necessità di valutazioni e controlli degli accessi.

Errori della RAG

  • Le allucinazioni persistono: Un modello può ignorare i passaggi recuperati, mescolare il contesto recuperato con memoria parametrica contraddittoria o inventare una risposta se il recupero non trova nulla di pertinente. La nostra guida sui tassi di allucinazione dell’IA spiega perché fondare le risposte sulle fonti riduce il rischio di invenzioni senza eliminarlo.
  • Risultati mancati e indici obsoleti: RAG fallisce quando gli indici contengono file vecchi o contraddittori, quando i frammenti tagliano contesto essenziale o quando troppi frammenti quasi duplicati affollano il prompt. La diagnosi dei problemi RAG inizia esaminando i passaggi recuperati.
  • Prompt injection indiretta: I documenti recuperati da fonti esterne o modificabili dagli utenti possono contenere istruzioni nascoste progettate per dirottare l’output del modello. Separa sempre i prompt di sistema attendibili dal testo recuperato, come spiegato nella nostra panoramica su cos’è la prompt injection.
  • Fughe di accesso e contesti troppo grandi: Qualsiasi documento in un indice condiviso può apparire agli utenti che interrogano il sistema, a meno che le autorizzazioni filtrino i risultati recuperati. Inserire troppo testo recuperato in un prompt può anche far perdere ai modelli l’attenzione sulle informazioni sepolte nel mezzo.

Errori del fine-tuning

  • Overfitting e artefatti del dataset: I modelli addestrati su esempi limitati o non rappresentativi possono memorizzare particolarità di formattazione e fallire quando gli input reali in produzione variano.
  • Fatti obsoleti e lacune di governance: Il fine-tuning non mantiene da solo aggiornate le conoscenze fattuali e addestrare i pesi non sostituisce mai le autorizzazioni degli strumenti, le protezioni sugli input o la valutazione dopo l’addestramento.

FAQ

Si possono combinare RAG e fine-tuning nello stesso sistema?

Sì, RAG e fine-tuning si completano e sono spesso combinati in produzione. RAG recupera fatti aggiornati o privati al momento della richiesta, mentre il fine-tuning impone tono, schema di output o rispetto delle istruzioni. Quando adatti un modello RAG, includi passaggi recuperati negli esempi di addestramento affinché il modello impari a fondare le risposte sul contesto.

RAG elimina completamente le allucinazioni dell’IA?

No, RAG riduce il rischio di invenzioni fornendo al modello testi sorgente pertinenti, ma le allucinazioni continuano a verificarsi. I modelli possono leggere male i frammenti recuperati, mescolare fatti recuperati con memoria preaddestrata contraddittoria o tirare a indovinare quando il recupero fallisce. I team hanno bisogno sia di metriche sui risultati del recupero sia di valutazioni del fondamento delle risposte per individuare affermazioni non supportate.

Quanti esempi servono prima di adattare un modello?

Nessuna dimensione del dataset garantisce da sola il successo, perché qualità degli esempi e rappresentatività rispetto alla produzione contano più del volume grezzo. Le indicazioni OpenAI sull’accuratezza (verificate il 18 novembre 2026) citano 50+ esempi validi insieme a un insieme di valutazione separato come punto di partenza pratico. Valuta presto, verifica che gli errori derivino dal comportamento e amplia con cautela.

LoRA è migliore del fine-tuning completo?

LoRA è un metodo di fine-tuning efficiente nei parametri che offre un’alternativa più leggera, senza essere sempre superiore al fine-tuning completo. Congelando i pesi preaddestrati e addestrando matrici compatte a basso rango, LoRA riduce i parametri addestrabili e può essere unito ai pesi di base senza latenza aggiuntiva. Confronta entrambi gli approcci con il tuo insieme di valutazione.

Quando basta il prompt engineering senza RAG o fine-tuning?

Il solo prompt engineering funziona quando il modello di base conosce già i fatti del dominio, il materiale di riferimento entra comodamente nel prompt e istruzioni chiare con pochi esempi producono risposte coerenti. Aggiungi RAG quando mancano documenti privati o variabili e il fine-tuning solo quando i prompt non migliorano più tono, struttura o efficienza dei token.

Fonti

Scritto da

Chunyu Cai

Chunyu Cai è l’amministratore delegato di Lotook, LLC e un imprenditore che scrive di modelli di IA, agenti e di come cambiano il lavoro quotidiano. Chunyu Cai ha conseguito un master presso Imperial College London.