Guide sull’IA · 10 min di lettura

Che cos'è la distillazione dei modelli? Come i teacher addestrano modelli più piccoli

La distillazione addestra uno student a imitare un teacher. Scopri come riduce i costi di inferenza e quali limiti impongono i termini delle API.

Illustrazione di una grande figura luminosa teacher che invia un morbido ventaglio di luce verso una figura student più piccola

La distillazione dei modelli è una tecnica di addestramento in cui un modello student più piccolo impara a imitare un modello teacher più grande o più capace. Trasferendo il comportamento degli output del teacher in un’architettura compatta, i team riducono costi e latenza di inferenza mantenendo gran parte delle sue capacità per specifiche attività in produzione.

Che cos’è la distillazione dei modelli e come funziona lo schema teacher-student?

La distillazione dei modelli (model distillation), detta anche distillazione della conoscenza (knowledge distillation), è un processo di addestramento che trasferisce il comportamento di un modello teacher grande e capace a un modello student più piccolo o economico. Invece di addestrare il modello compatto solo su esempi grezzi annotati da persone, il team usa il teacher per generare segnali di addestramento che guidano gli aggiornamenti dello student. L’obiettivo è un modello più piccolo, più veloce e meno costoso per richiesta, che conservi gran parte del comportamento del teacher.

In un flusso di lavoro teacher-student, il teacher è già addestrato e rimane congelato mentre produce valori obiettivo su un set di dati. Lo student aggiorna i propri pesi per riprodurre ciò che il teacher produce. I modelli teacher e student non devono necessariamente condividere la stessa architettura interna. Un team può abbinare un teacher grande e oneroso dal punto di vista computazionale a uno student molto più leggero, adatto a fornire risposte rapidamente.

Nella distillazione di LLM, il segnale di addestramento passa dalle semplici etichette di classe al comportamento linguistico. Distillare un modello linguistico significa spesso addestrare lo student su testo generato dal teacher, su etichette di preferenza che ordinano più risposte o su distribuzioni di probabilità a livello di token, quando il teacher le mette a disposizione. Varianti successive della distillazione addestrano lo student anche a imitare caratteristiche intermedie o tracce di ragionamento del teacher, anziché basarsi esclusivamente su set di dati etichettati da persone.

Come hanno dato origine alla distillazione gli obiettivi morbidi e la conoscenza oscura?

La formulazione moderna della distillazione della conoscenza deriva dall’articolo del 2015 Distilling the Knowledge in a Neural Network di Geoffrey Hinton, Oriol Vinyals e Jeff Dean. Prima di quel lavoro, i classificatori supervisionati venivano comunemente addestrati con etichette rigide, assegnando un punteggio di uno alla classe corretta e zero a tutte le altre. Questo obiettivo con una sola etichetta indica al modello la risposta corretta, ma nasconde come il teacher valuta tutte le altre opzioni.

Hinton, Vinyals e Dean hanno mostrato che un teacher addestrato produce obiettivi morbidi, cioè una distribuzione completa di probabilità su tutte le classi possibili per ogni input. Quando un classificatore di immagini valuta la foto di un pick-up, assegna un’alta probabilità a camion, una piccola probabilità diversa da zero ad automobile e una probabilità praticamente nulla a carota. Queste piccole probabilità residue contengono quella che gli autori hanno chiamato «conoscenza oscura» sulle relazioni tra le classi.

Addestrare uno student sugli obiettivi morbidi trasmette queste informazioni sulle somiglianze strutturali e offre al modello più piccolo una supervisione molto più ricca per ogni esempio rispetto a una sola etichetta one-hot. L’articolo introduce anche un parametro di temperatura che attenua la distribuzione degli output del teacher durante la distillazione, così che le probabilità secondarie risaltino maggiormente nell’addestramento. Poiché lo student impara come il teacher distribuisce la propria sicurezza tra risposte correlate, può generalizzare meglio di un modello piccolo addestrato da zero solo con etichette rigide.

Distillazione dei modelli, fine-tuning e quantizzazione a confronto

Distillazione dei modelli, fine-tuning e quantizzazione sono spesso raggruppati nell’ottimizzazione dei modelli, ma ciascun metodo modifica un modello in modo diverso. Confrontare la distillazione con il fine-tuning o la compressione dei pesi aiuta a chiarire quale strumento risolve ciascun collo di bottiglia.

Approccio Obiettivo principale Che cosa cambia Quando usarlo
Distillazione dei modelli Trasferire il comportamento di un grande teacher a un modello più piccolo e veloce Un modello student separato viene addestrato a riprodurre gli output o le probabilità del teacher Serve una latenza inferiore o hardware più piccolo mantenendo un comportamento simile a quello del teacher
Fine-tuning Adattare un modello esistente a un’attività, dominio o formato specifico I pesi del modello vengono aggiornati con dati dell’attività, mentre le dimensioni restano generalmente uguali Un modello di base rispetta già il budget di latenza e deve specializzarsi in un’attività
Quantizzazione Ridurre l’uso della memoria e accelerare i calcoli sui pesi La precisione numerica dei pesi esistenti diminuisce, per esempio da 16 bit a 8 bit o 4 bit Un modello soddisfa le esigenze di accuratezza e deve rientrare in limiti più stretti di VRAM o memoria

Il fine-tuning prosegue l’addestramento di un modello esistente su dati specifici di un’attività, modificandone il comportamento, in genere senza ridurre il numero di parametri. La distillazione ha un altro obiettivo: trasferire il comportamento da un teacher a un altro modello, di solito più piccolo. Anche la quantizzazione non è distillazione: riduce la precisione numerica dei pesi di un modello già addestrato invece di addestrare uno student separato a imitare un teacher.

Nelle stesse discussioni si incontrano anche pruning, sparsità, architetture mixture-of-experts (MoE) e generazione aumentata dal recupero (RAG). Pruning, sparsità e architetture MoE modificano i calcoli o il numero di parametri attivi all’interno di un modello, mentre RAG recupera documenti esterni durante l’inferenza invece di comprimere un teacher in uno student. Se stai ancora decidendo se addestrare, adattare o cambiare dimensione, inizia dalla nostra guida su come scegliere un modello di IA.

Perché i team distillano i modelli linguistici?

I team di ingegneria distillano un modello linguistico soprattutto per ridurre costi e latenza di inferenza rispetto all’esecuzione di un grande modello teacher per ogni richiesta. Usare un modello di punta per milioni di chiamate abituali di classificazione, estrazione o stesura consuma molte risorse di calcolo e allunga i tempi di risposta. Spostare il carico su uno student distillato e addestrato sul comportamento del teacher consente a un’applicazione di rispondere più rapidamente su hardware più piccolo o entro budget di latenza più stretti.

Capire che cos’è un token nell’IA aiuta a spiegare il lato economico del compromesso: ogni prompt e completamento consuma calcolo in proporzione al volume di token e alle dimensioni del modello, quindi spostare il traffico frequente su uno student compatto riduce direttamente il costo per richiesta. I team che cercano altri modi per ridurre la spesa oltre ai modelli più piccoli possono abbinarli alle strategie della nostra guida su come ridurre i costi delle API IA.

Nel mio lavoro di revisione delle pipeline di IA in produzione, i team raramente iniziano dalla distillazione il primo giorno. La maggior parte parte da un grande teacher per convalidare la qualità del prodotto, poi distilla il proprio teacher interno in uno student per la produzione quando i modelli di traffico si stabilizzano. I laboratori di IA seguono lo stesso schema quando rilasciano versioni più piccole delle proprie famiglie di modelli: distillare in uno student più piccolo un modello sviluppato internamente o concesso in licenza correttamente è una pratica standard di sviluppo del prodotto.

Cosa dicono le politiche OpenAI sulla distillazione dei modelli?

L’addestramento di un modello student sugli output di un’API ospitata da terzi è regolato dai contratti del fornitore. Il riepilogo seguente descrive le politiche pubblicate al 16 novembre 2026, incluso un aggiornamento delle Usage Policies indicato come efficace dal 20 novembre 2026, e non costituisce consulenza legale. Distillare un modello di propria proprietà, o la cui licenza consenta l’addestramento sui suoi output, è molto diverso dal prelevare output da un’API commerciale in violazione dei suoi termini.

Terms of Use e Usage Policies

Secondo gli OpenAI Terms of Use, agli utenti è vietata la seguente attività: «Usare gli output per sviluppare modelli che competono con OpenAI». La clausola si trova direttamente tra le restrizioni che disciplinano l’uso da parte dei clienti degli output restituiti dai servizi OpenAI.

La pagina delle OpenAI Usage Policies indica come data di efficacia il 20 novembre 2026: la sezione aggiornata sull’addestramento e lo sviluppo dei modelli è quindi una disposizione futura, non ancora in vigore al 16 novembre 2026. Il testo della futura politica su quella pagina stabilisce che gli utenti non devono usare modelli OpenAI o i loro output per generare, preparare, selezionare o fornire materiali o segnali di addestramento per modelli destinati a essere alternative o sostituti dei modelli o servizi OpenAI. Ciò comprende dati di addestramento, attività, griglie di valutazione, ambienti di apprendimento per rinforzo e feedback di addestramento come etichette, punteggi, classifiche, preferenze, ricompense o correzioni. Il testo futuro precisa inoltre che queste restrizioni non vietano gli usi espressamente consentiti dall’accordo di un cliente, inclusa qualsiasi Permitted Exception prevista dal Services Agreement di OpenAI.

Interventi contro campagne di distillazione non autorizzate

In un articolo pubblico intitolato Disrupting a coordinated model-distillation campaign, OpenAI ha descritto la distillazione avversaria come «l’uso sistematico e non autorizzato degli output o del ragionamento di un modello per contribuire ad addestrare, riprodurre o migliorare un altro modello». OpenAI ha riferito di aver adottato misure sugli account e interventi tecnici contro una campagna coordinata che tentava di estrarre ragionamenti protetti dai suoi modelli.

Anche altri fornitori di modelli ospitati limitano l’uso degli output delle API per addestrare modelli concorrenti. Poiché autorizzazioni precise, eccezioni aziendali e licenze dei modelli a pesi aperti variano a seconda del fornitore e del piano, i team di ingegneria dovrebbero leggere i termini aggiornati di ogni API ospitata o licenza di modello prima di raccogliere output per una pipeline di addestramento.

Che cosa può andare storto con un modello distillato?

Un modello student distillato può fallire in produzione perché copiare gli output di un teacher trasferisce sia i punti di forza sia i punti ciechi. Anche quando uno student sembra convincente su un benchmark limitato, dopo il rilascio emergono tre modalità di errore ricorrenti:

  • Errori e pregiudizi ereditati: poiché lo student tratta gli output del teacher come verità di addestramento, può apprendere e ripetere errori fattuali, allucinazioni o pregiudizi sistematici prodotti dal teacher.
  • Cali fuori distribuzione: riprodurre le risposte finali del teacher su un set di addestramento selezionato non garantisce la stessa affidabilità quando gli utenti reali inviano input sconosciuti, rumorosi o fuori distribuzione.
  • Lacune di copertura e sicurezza: capacità, casi limite o comportamenti di sicurezza mai presenti nel set di distillazione possono peggiorare sensibilmente nello student, lasciando lacune che il teacher originale gestiva in sicurezza.

Per mitigare questi errori servono un’attenta copertura del set di dati e una valutazione indipendente su casi limite reali di produzione, anziché presumere che lo student abbia ereditato ogni proprietà del teacher.

FAQ

Queste domande frequenti riassumono come funziona la distillazione dei modelli, quando i team la usano e quali regole si applicano agli output dei modelli ospitati.

La distillazione dei modelli è uguale al fine-tuning?

La distillazione e il fine-tuning hanno obiettivi diversi. Il fine-tuning aggiorna i pesi di un modello esistente, mantenendo di solito lo stesso numero di parametri, affinché si adatti a un’attività o a uno stile specifico. La distillazione trasferisce il comportamento di un modello teacher più grande a un modello student separato, generalmente più piccolo, per eseguire l’inferenza più rapidamente e a costi inferiori.

I modelli teacher e student devono avere la stessa architettura?

I modelli teacher e student non devono necessariamente condividere la stessa architettura. Poiché la distillazione addestra lo student a riprodurre output, distribuzioni di probabilità o segnali intermedi del teacher, una rete student più piccola può imparare da un teacher più grande con una struttura interna diversa. I team scelgono di solito un’architettura student compatta, progettata per fornire risposte rapidamente sull’hardware di destinazione.

Si può distillare un modello linguistico con gli output delle API OpenAI?

Al 16 novembre 2026, i Terms of Use di OpenAI, in vigore dal 1° gennaio 2026, vietano già di usare gli output per sviluppare modelli che competono con OpenAI. Separatamente, la pagina delle OpenAI Usage Policies aggiunge una sezione più dettagliata sull’addestramento e lo sviluppo dei modelli, indicata come efficace dal 20 novembre 2026 e non ancora in vigore il 16 novembre 2026. I team che vogliono creare modelli distillati rispettando i termini dei fornitori usano modelli propri o concessi in licenza per l’addestramento sugli output.

In cosa differisce la distillazione dalla quantizzazione e da RAG?

La distillazione dei modelli, la quantizzazione e la generazione aumentata dal recupero affrontano colli di bottiglia diversi. La distillazione addestra un nuovo modello student più piccolo a imitare un teacher. La quantizzazione riduce la precisione numerica dei pesi di un modello esistente, per esempio da 16 bit a 8 bit o 4 bit, per ridurre l’uso della memoria. La generazione aumentata dal recupero acquisisce documenti esterni durante l’inferenza invece di comprimere un teacher in uno student.

Quali rischi comporta un modello student distillato?

Un modello student distillato può ereditare errori fattuali o pregiudizi presenti negli output del teacher. Riprodurre le risposte del teacher sugli esempi di addestramento non garantisce neppure affidabilità sui prompt fuori distribuzione. Infine, capacità o comportamenti di sicurezza esclusi dal set di distillazione possono indebolirsi sensibilmente nel modello student più piccolo durante l’uso reale.

Fonti

Le definizioni tecniche e i dettagli sulle politiche dei fornitori in questa guida provengono dall’articolo di ricerca originale e dalla documentazione ufficiale OpenAI elencati di seguito.

Scritto da

Chunyu Cai

Chunyu Cai è l’amministratore delegato di Lotook, LLC e un imprenditore che scrive di modelli di IA, agenti e di come cambiano il lavoro quotidiano. Chunyu Cai ha conseguito un master presso Imperial College London.