Lotook
La cosa più pericolosa delle risposte dell’AI non è che siano spesso sbagliate. È che una risposta errata arriva esattamente con lo stesso tono sicuro e ben organizzato di una corretta.
Il caso che ormai tutti nel mondo del diritto conoscono è Mata v. Avianca. Nel 2023, alcuni avvocati in una causa federale a New York hanno depositato una memoria che citava decisioni giudiziarie inventate da ChatGPT, complete di citazioni false. Quando avevano chiesto se i casi fossero reali, ChatGPT aveva assicurato loro che «esistono davvero» e che si potevano trovare nelle banche dati giuridiche. Non era vero. Nel giugno 2023, Judge P. Kevin Castel ha inflitto agli avvocati e al loro studio una multa di $5,000.
Da allora gli strumenti sono migliorati molto, ma la lezione non è cambiata: non si può chiedere al modello di garantire per se stesso. Questa guida presenta la procedura che consiglierei per verificare una risposta dell’AI prima di farci affidamento. Richiede circa cinque minuti e permette di individuare la maggior parte dei problemi.
Perché le risposte dell’AI sono sbagliate
Sapere come si verificano gli errori aiuta a capire dove cercare.
- Il plausibile prevale sul vero. I modelli linguistici producono testo che corrisponde agli schemi appresi. Quando non sanno qualcosa, possono produrre un’affermazione che sembra soltanto corretta invece di dire «Non lo so».
- Le conoscenze diventano obsolete. Un modello potrebbe non conoscere gli eventi recenti se non cerca sul web e, anche quando lo fa, può ripiegare su informazioni più vecchie.
- Le fonti si mescolano. Due studi, due persone con nomi simili o due versioni di una politica possono fondersi in un’unica frase dal tono sicuro.
- I riferimenti vengono inventati o letti male. Un link può non esistere, portare a una pagina non pertinente o dire qualcosa di diverso dal riepilogo che vi si basa.
- I numeri cambiano. Gli errori si concentrano su percentuali, date, unità e valute.
Gli assistenti che cercano sul web e mostrano le fonti sono molto migliori rispetto a qualche anno fa. Continuano comunque a commettere occasionalmente tutti questi errori.
Prima decidi quanto verificare
Non tutte le risposte richiedono lo stesso livello di attenzione. Adegua lo sforzo alla posta in gioco.
| Posta in gioco | Esempi | Cosa fare |
|---|---|---|
| Bassa | Cercare idee per nomi, riformulare un’email, spiegare un concetto che studierai comunque | Leggi con spirito critico. Non serve una verifica formale |
| Media | Fatti in un documento di lavoro, un riepilogo che condividerai, istruzioni che seguirai | Esegui la verifica di cinque minuti descritta sotto |
| Alta | Decisioni su salute, diritto, denaro o sicurezza; qualsiasi cosa pubblicherai | Esegui la verifica, poi conferma con fonti primarie o un professionista qualificato |
La verifica in cinque minuti
Primo minuto: elenca le affermazioni
Scorri la risposta ed estrai gli elementi specifici che puoi verificare: nomi, numeri, date, citazioni, riferimenti e affermazioni di causa ed effetto come «X ha portato a Y». Ignora il testo di collegamento. La maggior parte delle risposte si basa su tre-sei affermazioni, e sono queste che devi verificare.
Se non riesci a trovare neanche un’affermazione verificabile, prendi nota anche di questo. Le risposte vaghe sono difficili da smentire, ma anche difficili su cui fare affidamento.
Secondo minuto: apri ogni fonte
Se l’assistente ha citato delle fonti, cliccale tutte. Per ciascuna poniti tre domande. La pagina esiste? È il tipo di fonte dichiarato, per esempio una pagina ufficiale, uno studio o una testata autorevole, anziché una fabbrica di contenuti? E dice davvero ciò che la risposta sostiene che dica?
L’ultima domanda permette di individuare il maggior numero di errori. In pratica, una fonte reale accompagnata da un riepilogo sbagliato è molto più comune di un link falso ed è molto più facile non accorgersene, perché il link sembra corretto.
Se non ci sono fonti, chiedile e controllale. Non fidarti però della parola del modello quando dice che le sue fonti sono reali. È proprio ciò che è andato storto in Mata v. Avianca.
Terzo minuto: leggi lateralmente
I fact-checker non giudicano una fonte leggendola attentamente. Aprono una nuova scheda e vedono cosa ne dicono gli altri. Il ricercatore di alfabetizzazione digitale Mike Caulfield ha trasformato questa pratica in un metodo chiamato SIFT:
- Stop: fermati prima di reagire o condividere, soprattutto se un’affermazione suscita improvvisa indignazione o gioia.
- Investigate the source: indaga sulla fonte. Chi c’è dietro e per cosa è conosciuto?
- Find better coverage: cerca una copertura migliore. Altre fonti affidabili riportano la stessa cosa?
- Trace claims: risali al contesto originale delle affermazioni: lo studio vero e proprio, la citazione completa, la foto originale.
Cercare la frase chiave tra virgolette, oppure un nome insieme a una parola chiave, spesso permette di trovare l’originale in pochi secondi.
Quarto minuto: controlla numeri e date
Esamina attentamente ogni cifra.
- È aggiornata? Cerca una data di riferimento. Prezzi, leggi, caratteristiche dei prodotti e statistiche cambiano continuamente.
- È la misura giusta? Si confondono spesso ricavi e profitti, utenti e utenti attivi mensili, percentuali e punti percentuali.
- I conti tornano? Se qualcosa è «raddoppiato» passando da 40 a 70, non è vero.
- Le unità sono corrette? Fai attenzione a valute, milioni e miliardi, sistema metrico e sistema imperiale.
Quinto minuto: chiedi cosa cambierebbe la risposta
Chiedi all’assistente di individuare i punti deboli della propria risposta. Per esempio: «Di quali parti della tua risposta sei meno sicuro e cosa dovrei verificare per confermarle?»
Spesso questo fa emergere rapidamente i punti deboli. Considera però la replica come un elenco di cose da fare, non come una verifica. Il modello continua a correggere i propri compiti. Per le questioni importanti, porre la stessa domanda a un modello di un altro fornitore è un modo economico per ottenere una seconda opinione; la nostra guida su come scegliere un modello di AI spiega quando vale la pena richiederla.
Segnali d’allarme da esaminare di nuovo
| Segnale d’allarme | Perché conta |
|---|---|
| Numeri molto precisi senza fonte | La precisione si può inventare facilmente quanto qualsiasi altra cosa |
| Citazioni di persone famose | Le citazioni attribuite erroneamente sono diffuse nei dati di addestramento |
| Riferimenti con titoli generici o link che portano a una home page | Segnali comuni di un riferimento inesistente |
| Descrizioni dettagliate di eventi recenti da uno strumento senza accesso al web | Potrebbe colmare le lacune con informazioni più vecchie |
| Una risposta che cambia quando la rigeneri | Il modello è incerto, anche se ogni versione sembra sicura |
| Una risposta che dice esattamente ciò che speravi | I modelli tendono ad assecondare la formulazione della domanda |
L’ultimo segnale è il più insidioso. Se chiedi «Perché X è una buona idea?», di solito otterrai motivi per cui X è una buona idea. Chiedi invece: «Quali sono gli argomenti più forti a favore e contro X?»
Casi particolari
Immagini, screenshot e video
Le immagini generate e modificate dall’AI sono ormai comuni e bastano pochi secondi per falsificare lo screenshot di un «post». Esegui una ricerca inversa per immagini per trovare copie precedenti e il contesto originale. Controlla se il file contiene Content Credentials, lo standard di provenienza della coalizione C2PA che alcune fotocamere, app di modifica e generatori di AI allegano alle immagini.
La regolamentazione inizia a essere d’aiuto. Dal 2 agosto 2026, le norme sulla trasparenza dell’EU AI Act impongono ai fornitori di sistemi di AI generativa di contrassegnare i contenuti sintetici in modo leggibile dalle macchine e a chi pubblica deepfake di dichiararlo. I sistemi già sul mercato prima del 2 agosto hanno tempo fino al 2 dicembre 2026 per aggiungere la marcatura. Il nostro approfondimento sulle regole dell’UE per l’etichettatura dei contenuti AI illustra i dettagli. Le etichette possono comunque mancare o essere rimosse, quindi considera la loro assenza come «non noto», non come «autentico».
Salute, diritto e denaro
Usa l’AI per capire la tua situazione e preparare domande migliori, non per prendere la decisione finale. Conferma tutto ciò su cui agirai tramite una fonte primaria, come una pagina governativa ufficiale o il testo effettivo di una legge o di una politica, oppure con un professionista qualificato.
Ultim’ora
Le prime notizie sono spesso sbagliate e i riepiloghi dell’AI ne ereditano gli errori. Per le vicende in rapida evoluzione, attendi la conferma di diverse testate affermate oppure consultale direttamente.
Chiedi risposte facili da verificare
Puoi risparmiare tempo chiedendo fin dall’inizio una risposta verificabile:
- «Cita una fonte per ogni affermazione fattuale, con un link diretto e una breve citazione dalla pagina.»
- «Separa ciò che è ben consolidato da ciò che è incerto o controverso.»
- «Includi la data a cui si riferisce ogni statistica.»
- «Se non sai qualcosa, dillo invece di tirare a indovinare.»
Nessuna di queste richieste garantisce l’accuratezza. Ognuna rende più facile individuare i problemi. E se incolli documenti rispetto ai quali il modello deve fare un controllo, elimina prima tutte le informazioni sensibili. La nostra guida su come usare l’AI al lavoro senza divulgare dati sensibili spiega cosa escludere.
L’abitudine più importante
Se devi ricordare una sola cosa di questa guida, sia questa: apri le fonti. La maggior parte degli errori dell’AI che causano danni reali sarebbe stata individuata se qualcuno avesse seguito il link e letto la pagina.
La stessa regola vale quando un agente AI riferisce sul lavoro che ha svolto per te. «Attività completata» è un’affermazione, non una prova. La nostra guida su cos’è un agente AI spiega perché questo diventa più importante quando gli agenti assumono compiti più lunghi.
Fonti
- LawNext, Court imposes sanctions on lawyers who filed bogus cases after relying on ChatGPT for legal research, 22 giugno 2023
- Wikipedia, Mata v. Avianca, Inc.
- Mike Caulfield, SIFT (The Four Moves), 19 giugno 2019
- C2PA, la Coalition for Content Provenance and Authenticity
- European Commission, Guidelines on transparency obligations for providers and deployers of certain AI systems
- Morgan Lewis, EU AI Act’s transparency rules: what went into effect on 2 August, agosto 2026
