Lotook
Le plus dangereux dans les réponses de l’IA n’est pas qu’elles soient souvent fausses. C’est qu’une réponse erronée arrive sur exactement le même ton assuré et bien structuré qu’une réponse correcte.
L’affaire que tout le monde connaît désormais dans le milieu juridique est Mata v. Avianca. En 2023, des avocats ont déposé dans une affaire fédérale à New York un mémoire citant des décisions de justice inventées par ChatGPT, avec de fausses citations. Lorsqu’ils ont demandé si ces affaires étaient réelles, ChatGPT leur a assuré qu’elles « existaient bel et bien » et figuraient dans des bases de données juridiques. Ce n’était pas le cas. En juin 2023, Judge P. Kevin Castel a infligé une amende de $5,000 aux avocats et à leur cabinet.
Les outils se sont beaucoup améliorés depuis, mais la leçon reste la même : on ne peut pas demander au modèle de se porter garant de lui-même. Ce guide présente la méthode que je recommanderais pour vérifier une réponse de l’IA avant de s’y fier. Elle prend environ cinq minutes et permet de repérer la plupart des problèmes.
Pourquoi les réponses de l’IA peuvent être erronées
Comprendre comment les erreurs se produisent permet de savoir où chercher.
- Le plausible l’emporte sur le vrai. Les modèles de langage produisent du texte qui correspond aux structures apprises. Lorsqu’ils ignorent quelque chose, ils peuvent produire une réponse qui semble simplement juste au lieu de dire « Je ne sais pas ».
- Les connaissances vieillissent. Un modèle peut ignorer les événements récents s’il ne fait pas de recherche sur le Web et, même dans ce cas, il peut revenir à des informations plus anciennes.
- Les sources se mélangent. Deux études, deux personnes aux noms similaires ou deux versions d’une politique peuvent fusionner en une seule phrase assurée.
- Les références sont inventées ou mal interprétées. Un lien peut ne pas exister, mener à une page sans rapport ou dire autre chose que le résumé qui s’appuie sur lui.
- Les chiffres dérivent. Les erreurs se concentrent autour des pourcentages, dates, unités et monnaies.
Les assistants qui cherchent sur le Web et montrent leurs sources sont bien meilleurs qu’il y a quelques années. Ils commettent pourtant encore chacun de ces types d’erreurs de temps à autre.
Décider d’abord du niveau de vérification nécessaire
Toutes les réponses ne nécessitent pas le même examen. Adaptez l’effort aux enjeux.
| Enjeux | Exemples | Que faire |
|---|---|---|
| Faibles | Trouver des idées de noms, reformuler un e-mail, expliquer un concept que vous étudierez de toute façon | Lire avec esprit critique. Aucune vérification formelle nécessaire |
| Moyens | Faits dans un document de travail, résumé que vous partagerez, instructions que vous suivrez | Effectuer la vérification de cinq minutes ci-dessous |
| Élevés | Décisions concernant la santé, le droit, l’argent ou la sécurité ; tout ce que vous publierez | Effectuer la vérification, puis confirmer auprès de sources primaires ou d’un professionnel qualifié |
La vérification en cinq minutes
Première minute : lister les affirmations
Parcourez la réponse et relevez les éléments précis que vous pouvez vérifier : noms, chiffres, dates, citations, références et liens de cause à effet comme « X a conduit à Y ». Ignorez le texte de liaison. La plupart des réponses reposent sur trois à six affirmations, et ce sont elles qu’il faut vérifier.
Si vous ne trouvez aucune affirmation vérifiable, notez-le aussi. Les réponses vagues sont difficiles à réfuter, mais il est également difficile de s’y fier.
Deuxième minute : ouvrir chaque source
Si l’assistant a cité des sources, cliquez sur chacune d’elles. Pour chaque source, posez trois questions. La page existe-t-elle ? Est-ce bien le type de source annoncé, par exemple une page officielle, une étude ou un média reconnu, plutôt qu’une ferme de contenu ? Et dit-elle réellement ce que la réponse lui fait dire ?
La dernière question permet de repérer le plus d’erreurs. En pratique, une source réelle accompagnée d’un résumé erroné est bien plus fréquente qu’un faux lien et passe beaucoup plus facilement inaperçue, car le lien semble correct.
S’il n’y a pas de sources, demandez-les et vérifiez-les. Mais ne croyez pas le modèle sur parole lorsqu’il affirme que ses sources sont réelles. C’est précisément ce qui s’est mal passé dans Mata v. Avianca.
Troisième minute : lire latéralement
Les vérificateurs de faits ne jugent pas une source en la lisant attentivement. Ils ouvrent un nouvel onglet et regardent ce que les autres en disent. Le chercheur en littératie numérique Mike Caulfield en a fait une méthode appelée SIFT :
- Stop : arrêtez-vous avant de réagir ou de partager, surtout si une affirmation provoque chez vous une vive indignation ou une grande joie.
- Investigate the source : examinez la source. Qui est derrière et pour quoi cette personne ou organisation est-elle connue ?
- Find better coverage : cherchez de meilleures sources. D’autres sources fiables rapportent-elles la même chose ?
- Trace claims : remontez au contexte d’origine des affirmations : l’étude elle-même, la citation complète, la photo originale.
Chercher l’expression clé entre guillemets, ou un nom accompagné d’un mot-clé, permet souvent de retrouver l’original en quelques secondes.
Quatrième minute : vérifier les chiffres et les dates
Examinez attentivement chaque chiffre.
- Est-il à jour ? Cherchez une date de référence. Les prix, lois, caractéristiques des produits et statistiques changent constamment.
- Est-ce la bonne mesure ? Chiffre d’affaires et bénéfice, utilisateurs et utilisateurs actifs mensuels, pourcentages et points de pourcentage sont souvent confondus.
- Le calcul est-il correct ? Si une valeur a « doublé » en passant de 40 à 70, ce n’est pas vrai.
- Les unités sont-elles correctes ? Faites attention aux monnaies, aux millions et aux milliards, ainsi qu’aux unités métriques et impériales.
Cinquième minute : demander ce qui changerait la réponse
Demandez à l’assistant de chercher les failles de sa propre réponse. Par exemple : « De quelles parties de ta réponse es-tu le moins sûr, et que devrais-je vérifier pour les confirmer ? »
Cela fait souvent ressortir rapidement les points faibles. Considérez toutefois la réponse comme une liste de choses à faire, pas comme une vérification. Le modèle continue de corriger ses propres devoirs. Pour toute question importante, poser la même question à un modèle d’un autre fournisseur permet d’obtenir un deuxième avis à peu de frais ; notre guide pour choisir un modèle d’IA explique quand un deuxième avis en vaut la peine.
Signaux d’alerte à examiner de plus près
| Signal d’alerte | Pourquoi c’est important |
|---|---|
| Chiffres très précis sans source | La précision s’invente aussi facilement que le reste |
| Citations de personnes célèbres | Les citations mal attribuées sont omniprésentes dans les données d’entraînement |
| Références aux titres génériques ou liens menant à une page d’accueil | Signes courants d’une référence inexistante |
| Descriptions détaillées d’événements récents par un outil sans accès au Web | Il comble peut-être les lacunes avec des informations anciennes |
| Réponse qui change lorsqu’on la régénère | Le modèle est incertain, même si chaque version semble assurée |
| Réponse qui dit exactement ce que vous espériez | Les modèles ont tendance à suivre la formulation de la question |
Le dernier signal est le plus insidieux. Si vous demandez « Pourquoi X est-il une bonne idée ? », vous obtiendrez généralement des raisons pour lesquelles X est une bonne idée. Demandez plutôt : « Quels sont les arguments les plus solides pour et contre X ? »
Cas particuliers
Images, captures d’écran et vidéos
Les images générées ou modifiées par l’IA sont désormais courantes, et une capture d’écran d’une « publication » se falsifie en quelques secondes. Faites une recherche d’image inversée pour retrouver des copies antérieures et le contexte d’origine. Vérifiez si le fichier contient des Content Credentials, la norme de provenance de la coalition C2PA que certains appareils photo, logiciels de retouche et générateurs d’IA joignent aux images.
La réglementation commence à aider. Depuis le 2 août 2026, les règles de transparence du EU AI Act obligent les fournisseurs de systèmes d’IA générative à marquer les contenus synthétiques de manière lisible par machine et les personnes qui publient des hypertrucages à le révéler. Les systèmes déjà sur le marché avant le 2 août ont jusqu’au 2 décembre 2026 pour ajouter le marquage. Notre article sur les règles européennes d’étiquetage des contenus d’IA en explique les détails. Les étiquettes peuvent encore manquer ou être retirées : leur absence signifie donc « inconnu », pas « authentique ».
Santé, droit et argent
Utilisez l’IA pour comprendre votre situation et préparer de meilleures questions, pas pour prendre la décision finale. Confirmez tout élément sur lequel vous agirez auprès d’une source primaire, comme une page gouvernementale officielle ou le texte même d’une loi ou d’une politique, ou auprès d’un professionnel qualifié.
Actualités de dernière minute
Les premiers articles sont souvent erronés, et les résumés de l’IA en héritent les erreurs. Pour les événements qui évoluent rapidement, attendez une confirmation de plusieurs médias reconnus ou consultez-les directement.
Demander des réponses faciles à vérifier
Vous pouvez gagner du temps en demandant dès le départ une réponse vérifiable :
- « Cite une source pour chaque affirmation factuelle, avec un lien direct et une courte citation de la page. »
- « Distingue ce qui est bien établi de ce qui est incertain ou contesté. »
- « Indique la date à laquelle chaque statistique se rapporte. »
- « Si tu ne sais pas, dis-le au lieu de deviner. »
Aucune de ces demandes ne garantit l’exactitude. Chacune rend les problèmes plus faciles à repérer. Et si vous collez des documents que le modèle doit consulter pour vérifier sa réponse, retirez d’abord tout élément sensible. Notre guide sur l’utilisation de l’IA au travail sans divulguer de données sensibles explique ce qu’il faut omettre.
L’habitude la plus importante
Si vous ne retenez qu’une chose de ce guide, retenez celle-ci : ouvrez les sources. La plupart des erreurs de l’IA qui causent un préjudice réel auraient été repérées si quelqu’un avait cliqué sur le lien et lu la page.
La même règle s’applique lorsqu’un agent d’IA rend compte d’un travail effectué pour vous. « Tâche terminée » est une affirmation, pas une preuve. Notre guide expliquant ce qu’est un agent d’IA montre pourquoi cela devient plus important lorsque les agents prennent en charge des tâches plus longues.
Sources
- LawNext, Court imposes sanctions on lawyers who filed bogus cases after relying on ChatGPT for legal research, 22 juin 2023
- Wikipedia, Mata v. Avianca, Inc.
- Mike Caulfield, SIFT (The Four Moves), 19 juin 2019
- C2PA, la Coalition for Content Provenance and Authenticity
- European Commission, Guidelines on transparency obligations for providers and deployers of certain AI systems
- Morgan Lewis, EU AI Act’s transparency rules: what went into effect on 2 August, août 2026
