Guides IA · 11 min de lecture

RAG ou fine-tuning : quand rechercher et quand entraîner ?

Comparez RAG et fine-tuning : quand rechercher des documents, modifier le comportement du modèle et utiliser le prompt engineering ou LoRA.

Illustration d'une bifurcation dans un atelier-bibliothèque sombre : un chemin mène à une archive de documents lumineuse et l'autre à un établi avec un cœur de modèle remodelé

Utilisez la retrieval-augmented generation (RAG, ou génération augmentée par récupération) lorsque votre modèle a besoin de documents privés, récents ou fréquemment modifiés, et le fine-tuning lorsque vous recherchez un ton, un format ou un comportement constant après avoir atteint les limites du prompt engineering. Ces méthodes répondent à des problèmes différents : les systèmes en production combinent souvent RAG pour les faits externes et fine-tuning pour un comportement de sortie fiable.

Quelle différence entre RAG et fine-tuning ?

La retrieval-augmented generation (RAG) fournit au modèle des textes de référence externes au moment de la requête, tandis que le fine-tuning met à jour ses poids sur un jeu de données ciblé pour modifier son comportement appris. Dans un processus RAG, une étape de recherche extrait des passages pertinents d’un index et les ajoute à la demande de l’utilisateur. Le modèle peut ainsi fonder sa réponse sur des contenus actuels ou privés au lieu de dépendre uniquement des paramètres appris pendant le préentraînement. Pour une présentation complète de cette méthode de récupération, consultez notre guide sur le RAG.

Le fine-tuning poursuit l’entraînement d’un modèle de base sur un jeu de données plus restreint afin de modifier ses paramètres sous-jacents. Les équipes utilisent souvent le fine-tuning supervisé (SFT), qui entraîne le modèle sur des exemples de prompts associés aux sorties souhaitées, ou des méthodes de préférence comme DPO, qui apprennent à partir de comparaisons entre réponses préférées et moins appréciées. Placer des documents dans un prompt change le contexte d’entrée d’une seule requête, tandis que le fine-tuning remodèle le comportement du modèle pour les requêtes futures.

De l’article de recherche de 2020 aux pipelines RAG modernes

L’architecture RAG originale de 2020 entraînait conjointement un récupérateur neuronal et un générateur, tandis que les systèmes RAG modernes en production indexent généralement des documents découpés et transmettent les passages récupérés dans un prompt. Lewis et al. ont introduit le terme dans leur article NeurIPS de 2020 (arXiv:2005.11401), en associant une mémoire paramétrique préentraînée (un générateur séquence à séquence BART) à une mémoire non paramétrique (un index vectoriel dense de Wikipédia interrogé par Dense Passage Retriever, ou DPR).

Les auteurs ont conçu cette architecture hybride parce que les modèles purement paramétriques peinent à actualiser précisément les connaissances sur le monde, masquent leur provenance et hallucinent. Pour démontrer qu’un index pouvait actualiser les connaissances sans nouvel entraînement, ils ont remplacé un index Wikipédia de décembre 2016 par un index de décembre 2018 sur 82 questions relatives à des changements de dirigeants. Les index correspondant à l’année ont atteint environ 70% et 68% de précision, contre environ 12% et 4% pour les index ne correspondant pas à l’année. Ce résultat montre qu’actualiser un index actualise les réponses, sans signifier que ces scores précis s’appliquent à tous les déploiements en production.

Aujourd’hui, les équipes techniques entraînent rarement une paire DPR et BART de bout en bout. Comme l’expliquent AWS Prescriptive Guidance et des articles techniques d’AWS Machine Learning, les pipelines RAG en production suivent généralement trois étapes :

  1. Ingérer et indexer : découpez les documents sources en morceaux faciles à gérer, calculez des représentations vectorielles et enregistrez les vecteurs avec le texte brut et les métadonnées. Le choix attentif des limites est important, comme l’expliquent nos guides sur le découpage des documents pour le RAG et les embeddings.
  2. Récupérer : convertissez la question reçue en requête de recherche, récupérez les top-k passages par similarité sémantique, correspondance de mots-clés ou recherche hybride, puis reclassez éventuellement les candidats.
  3. Augmenter et générer : insérez les passages récupérés et la question de l’utilisateur dans un prompt pour que le modèle de langage produise une réponse fondée sur les sources.

Les recommandations techniques d’AWS soulignent que la qualité de génération dépend de celle de la récupération : un système RAG ne vaut que par son récupérateur.

Quand utiliser RAG plutôt que le fine-tuning ?

RAG est généralement le meilleur premier choix lorsqu’une application dépend de documents privés, récents ou fréquemment mis à jour que le modèle de base ne peut pas restituer de façon fiable. Les journaux de modifications produit, politiques RH internes, tickets d’assistance et procédures techniques évoluent constamment. Ajouter ou remplacer des entrées dans un index de recherche actualise immédiatement les connaissances disponibles ; le fine-tuning injecte les faits lentement et peut laisser le modèle dépassé peu après la fin de l’entraînement.

RAG facilite aussi la traçabilité des sources, car les ingénieurs et les utilisateurs finaux peuvent examiner les passages exacts récupérés pour une réponse. Selon les recommandations publiques d’OpenAI sur la précision (vérifiées le 18 novembre 2026), RAG donne aux modèles accès à un contexte propre au domaine, et bon nombre des plus grands déploiements clients d’OpenAI reposent uniquement sur le prompt engineering et RAG. La documentation d’OpenAI sur l’optimisation des modèles indique également que le fine-tuning convient mal à l’ajout de connaissances entièrement nouvelles et recommande plutôt la récupération. Même si RAG exige toujours d’évaluer la précision de la récupération et le fondement des réponses, les équipes peuvent lancer une première version fonctionnelle à partir de fichiers existants sans constituer un vaste jeu de données d’entraînement.

Quand le fine-tuning est-il la meilleure étape suivante ?

Le fine-tuning devient la bonne étape suivante lorsqu’un modèle reçoit déjà les faits nécessaires, mais ne respecte pas le ton, le schéma ou le comportement exigé une fois les possibilités du prompt engineering épuisées. Comme l’indiquent les recommandations d’OpenAI (vérifiées le 18 novembre 2026), le fine-tuning répond aux défis de mémoire apprise et de cohérence : mettre en avant des connaissances déjà présentes dans le modèle, imposer des formats de sortie structurés, adopter une voix particulière ou apprendre à un petit modèle à accomplir une tâche précise de façon fiable. Les équipes l’utilisent aussi pour raccourcir les prompts en remplaçant de longues instructions et des exemples few-shot par un comportement appris.

Ne lancez pas d’entraînement sans exemples annotés représentatifs ni jeu d’évaluation mis de côté. La documentation d’OpenAI sur la précision souligne que la qualité des données d’entraînement compte davantage que leur quantité brute. Elle cite 50+ exemples de qualité comme point de départ courant pour tester, puis élargir uniquement lorsque les erreurs restantes viennent du comportement plutôt que d’un contexte manquant. Considérez 50+ comme un repère initial, pas comme une garantie.

RAG et fine-tuning se combinent aussi efficacement. Si les évaluations révèlent à la fois un contexte manquant et des écarts de format, les équipes peuvent affiner un modèle avec des exemples d’entraînement au format RAG. Il apprend ainsi à lire et citer les passages récupérés de manière fiable au lieu de traiter ce contexte sans exemple préalable. Le fine-tuning reste utilisé pour les modèles à poids ouverts et chez plusieurs fournisseurs, mais leurs offres individuelles évoluent : au 18 novembre 2026, OpenAI indique que sa plateforme de fine-tuning est en cours de fermeture et inaccessible aux nouveaux utilisateurs. Les clients existants éligibles peuvent lancer des entraînements jusqu’au 6 janvier 2027 (sauf retrait anticipé d’un modèle de base), et les modèles entraînés restent disponibles pour l’inférence jusqu’au retrait du modèle de base.

La place du prompt engineering et de LoRA

Le prompt engineering constitue le moyen le plus rapide d’établir une référence avant de construire un index de récupération ou un pipeline d’entraînement. Low-Rank Adaptation (LoRA) allège le fine-tuning en entraînant de petites matrices d’adaptation plutôt que tous les poids du modèle.

Le prompt engineering d’abord

Le prompt engineering combine des instructions claires, des contraintes de sortie et des exemples few-shot dans chaque requête. Comme il ne nécessite ni index de recherche ni boucle d’entraînement, toute équipe devrait d’abord exploiter le prompt engineering pour établir une référence de performance. Ses limites apparaissent lorsque les processus se développent : les prompts sont limités par la fenêtre de contexte, les longues instructions few-shot ajoutent de la latence et un surcoût en tokens, et le prompting seul ne peut pas rechercher dans un corpus privé. Si des documents manquants provoquent des erreurs, ajoutez la récupération ; si la cohérence des sorties stagne, envisagez le fine-tuning.

LoRA et fine-tuning efficace en paramètres

Le fine-tuning n’exige pas de mettre à jour chaque paramètre d’un grand modèle ni de déployer un checkpoint distinct de taille complète pour chaque usage. Introduit par Hu et al. (ICLR 2022 ; arXiv:2106.09685), LoRA gèle les poids préentraînés et insère de petites matrices entraînables de décomposition de rang faible dans certaines couches, comme les poids d’attention du Transformer. Puisque l’entraînement ne met à jour que ces adaptateurs compacts, les équipes adaptent les modèles avec bien moins de paramètres entraînables. Lors de l’inférence, les adaptateurs LoRA peuvent être fusionnés avec les poids de base sans latence supplémentaire par rapport au modèle d’origine, ou échangés dynamiquement selon la tâche.

Un cadre de décision pratique pour les équipes

Choisir entre RAG et fine-tuning fonctionne mieux comme une série de vérifications techniques portant sur la fraîcheur des données, les exigences de comportement, la préparation à l’évaluation et la charge opérationnelle. Examinez ces six questions avant d’investir du temps de développement :

  1. Les connaissances nécessaires sont-elles privées, nouvelles ou fréquemment modifiées ? Commencez par RAG pour actualiser les connaissances en mettant l’index à jour.
  2. Faut-il ajuster le ton, le schéma ou la cohérence de la tâche ? Commencez par le prompt engineering et n’envisagez le fine-tuning que si les prompts plafonnent.
  3. Disposez-vous d’exemples annotés et d’un moyen d’évaluation ? Le fine-tuning exige des paires entrée-sortie représentatives et un jeu d’évaluation réservé avant le début de l’entraînement.
  4. Quel cycle opérationnel convient à votre équipe ? RAG ajoute l’ingestion, le découpage, les permissions et le réglage de la récupération ; le fine-tuning ajoute la préparation des données, les entraînements et une réévaluation à chaque mise à jour du modèle de base.
  5. Les prompts longs nuisent-ils à l’efficacité d’une tâche stable ? Le fine-tuning peut intégrer les instructions répétées aux poids du modèle afin de raccourcir les prompts ou de prendre en charge un modèle plus petit.
  6. Les évaluations révèlent-elles les deux problèmes ? Combinez prompt engineering, RAG pour les faits dynamiques et fine-tuning sur des exemples de type RAG pour un comportement fiable.
Situation Point de départ habituel Pourquoi
Des documents privés ou souvent actualisés doivent fonder la réponse RAG (après un prompt de référence) Les connaissances résident dans un index actualisé sans nouvel entraînement
Vous voulez une voix, un modèle de document ou une sortie structurée cohérents Prompt engineering, puis fine-tuning si les prompts plafonnent Le format de sortie relève du comportement, pas d’un manque dans la recherche documentaire
Des faits changeants et un style maison strict RAG et prompts, puis envisager le fine-tuning sur des exemples RAG La récupération fournit des faits actuels tandis que l’entraînement fixe le format
Vous n’avez ni jeu d’évaluation ni sorties annotées Prompts et, au besoin, RAG (attendre pour le fine-tuning) Sans évaluations, impossible de vérifier si l’entraînement a amélioré les résultats
Vous voulez que le modèle mémorise une fiche de faits changeante RAG ou un outil de recherche dédié Le fine-tuning est lent à actualiser et risque de devenir rapidement obsolète

Quels problèmes persistent avec chaque approche ?

RAG et fine-tuning présentent chacun des modes de défaillance distincts, et aucune des deux techniques ne supprime les hallucinations ni le besoin d’évaluations et de contrôles d’accès.

Défaillances du RAG

  • Les hallucinations persistent : un modèle peut ignorer les passages récupérés, mélanger leur contexte avec une mémoire paramétrique contradictoire ou inventer une réponse si la récupération ne trouve rien de pertinent. Notre guide sur les taux d’hallucination de l’IA explique pourquoi l’ancrage dans les sources réduit le risque d’invention sans le supprimer.
  • Absence de résultats et index obsolètes : RAG échoue lorsque les index contiennent des fichiers périmés ou contradictoires, lorsque le découpage supprime un contexte essentiel ou lorsque trop de fragments presque identiques encombrent le prompt. Le diagnostic RAG commence par l’examen des passages récupérés.
  • Injection indirecte de prompt : les documents récupérés auprès de sources externes ou modifiables par les utilisateurs peuvent contenir des instructions cachées visant à détourner la sortie du modèle. Séparez toujours les prompts système fiables du texte récupéré, comme l’explique notre présentation de l’injection de prompt.
  • Fuites d’accès et contextes trop volumineux : tout document placé dans un index partagé peut apparaître aux utilisateurs qui interrogent le système, sauf si les permissions filtrent les résultats. Insérer trop de texte récupéré dans un prompt peut aussi faire perdre au modèle de vue les informations enfouies au milieu.

Défaillances du fine-tuning

  • Surapprentissage et artefacts du jeu de données : les modèles entraînés sur des exemples limités ou non représentatifs peuvent mémoriser des particularités de format et échouer lorsque les entrées réelles en production varient.
  • Faits obsolètes et lacunes de gouvernance : le fine-tuning ne maintient pas les connaissances factuelles à jour à lui seul, et entraîner les poids ne remplace jamais les permissions des outils, les garde-fous sur les entrées ou l’évaluation après entraînement.

FAQ

Peut-on combiner RAG et fine-tuning dans un même système ?

Oui, RAG et fine-tuning se complètent et sont souvent associés en production. RAG récupère des faits actuels ou privés au moment de la requête, tandis que le fine-tuning impose le ton, le schéma de sortie ou le respect des instructions. Pour affiner un modèle RAG, incluez des passages récupérés dans les exemples d’entraînement afin qu’il s’exerce à fonder ses réponses sur le contexte.

RAG élimine-t-il complètement les hallucinations de l’IA ?

Non, RAG réduit le risque d’invention en fournissant au modèle des textes sources pertinents, mais des hallucinations persistent. Les modèles peuvent mal lire les fragments récupérés, mélanger des faits récupérés avec une mémoire préentraînée contradictoire ou deviner lorsque la récupération échoue. Les équipes ont besoin de mesures des résultats de récupération et d’évaluations de l’ancrage dans les sources pour détecter les affirmations non étayées.

Combien d’exemples faut-il avant d’affiner un modèle ?

Aucune taille de jeu de données ne garantit à elle seule le succès : la qualité des exemples et leur représentativité en production comptent davantage que le volume brut. Les recommandations d’OpenAI sur la précision (vérifiées le 18 novembre 2026) citent 50+ bons exemples et un jeu d’évaluation réservé comme point de départ pratique. Évaluez tôt, vérifiez que les erreurs viennent du comportement et élargissez prudemment.

LoRA est-il meilleur que le fine-tuning complet ?

LoRA est une méthode de fine-tuning efficace en paramètres qui constitue une alternative plus légère, sans être systématiquement supérieure au fine-tuning complet. En gelant les poids préentraînés et en entraînant des matrices compactes de rang faible, LoRA réduit le nombre de paramètres entraînables et peut être fusionné aux poids de base sans latence supplémentaire. Comparez les deux approches avec votre jeu d’évaluation.

Quand le prompt engineering suffit-il sans RAG ni fine-tuning ?

Le prompt engineering seul fonctionne lorsque le modèle de base connaît déjà les faits du domaine, que les documents de référence tiennent facilement dans le prompt et que des instructions claires accompagnées de quelques exemples produisent des sorties cohérentes. Ajoutez RAG lorsque des documents privés ou changeants manquent, et le fine-tuning seulement lorsque les prompts plafonnent sur le ton, la structure ou l’efficacité en tokens.

Sources

Écrit par

Chunyu Cai

Chunyu Cai est le directeur général de Lotook, LLC et un entrepreneur qui écrit sur les modèles d’IA, les agents et leur influence sur le travail au quotidien. Chunyu Cai est titulaire d’un master de l’établissement Imperial College London.