Un reranker est un modèle de seconde étape qui prend une requête et une courte liste de candidats issus d’une première recherche, puis réévalue ces éléments afin de faire remonter les passages les plus pertinents. Dans la génération augmentée par récupération (RAG), le reranking réduit les nombreux résultats de recherche aux meilleurs passages envoyés au modèle de langage.
Les moteurs de recherche et les pipelines de génération augmentée par récupération (RAG) doivent composer avec une tension fondamentale entre vitesse et précision du classement. Parcourir des millions de passages exige une méthode de recherche peu coûteuse, mais les scores de similarité simples placent souvent des passages indirectement liés devant la réponse exacte. Le reranking de passages résout cette tension en séparant la récupération en une recherche large et rapide de candidats, suivie d’une évaluation plus lente et attentive d’une courte liste.
Comment fonctionne la récupération en deux étapes dans la recherche et le RAG ?
La récupération en deux étapes sépare la génération rapide de candidats dans tout un corpus de l’évaluation de haute précision d’un petit sous-ensemble de résultats. Les systèmes de recherche d’information utilisent ce schéma depuis bien avant les modèles de langage modernes, et les systèmes RAG adoptent la même répartition des tâches pour protéger la fenêtre de contexte du prompt des résultats parasites.
Un pipeline RAG classique en deux étapes se déroule en trois phases successives :
- Récupération initiale (génération de candidats) : Un outil de récupération rapide parcourt toute la collection et renvoie quelques dizaines à quelques centaines de fragments candidats. Les méthodes courantes comprennent la recherche lexicale dans des index inversés de type BM25, la récupération dense à l’aide d’embeddings textuels et de la recherche approximative des plus proches voisins (ANN) dans une base de données vectorielle, ou une combinaison hybride des deux.
- Reranking des passages : Un reranker spécialisé évalue la requête de l’utilisateur avec chaque fragment candidat de la première étape et attribue un nouveau score de pertinence, ce qui réordonne la liste restreinte.
- Génération : Après le reranking, l’application ne conserve que les n passages les mieux notés et les place dans le prompt du modèle de langage avec la question de l’utilisateur.
La récupération initiale optimise le rappel et la faible latence sur un grand index. Le reranking des passages optimise la précision tout en haut d’une courte liste. Ajouter un reranker laisse inchangés le modèle de langage en aval et votre système de référence sous-jacent ; le reranker décide simplement quels fragments récupérés méritent une place dans le prompt.
Bi-encoder ou cross-encoder : pourquoi un seul modèle ne peut-il pas tout faire ?
Les bi-encoders et les cross-encoders traitent les requêtes et les documents selon des parcours de calcul différents, ce qui crée un compromis direct entre indexation hors ligne et comparaison conjointe au niveau des tokens. Comprendre l’architecture bi-encoder vs cross-encoder explique pourquoi presque aucun système en production n’applique un cross-encoder à une base entière, et pourquoi la seule similarité vectorielle classe parfois mal des candidats proches.
Comment les bi-encoders accélèrent la récupération initiale
Un bi-encoder (aussi appelé dual encoder ou modèle d’embedding) fait passer la requête et chaque document dans deux opérations d’encodage indépendantes pour produire des vecteurs distincts de longueur fixe. Nils Reimers et Iryna Gurevych ont formalisé une version très citée de cette architecture siamoise pour le texte dans Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks (EMNLP 2019).
Comme l’encodage des documents ne voit jamais la requête de l’utilisateur, chaque fragment de votre corpus peut être converti en embedding à l’avance, hors ligne, et stocké dans un index vectoriel. Lorsqu’un utilisateur soumet une requête, le système n’encode celle-ci qu’une fois et compare son vecteur à des millions de vecteurs de documents précalculés à l’aide d’une opération mathématique légère, comme la similarité cosinus ou le produit scalaire. Compresser un passage entier en un seul vecteur avant de connaître la question rend la recherche à grande échelle possible, même si des relations linguistiques fines entre la requête et le passage peuvent se perdre lors de la compression.
Comment les cross-encoders évaluent les paires requête-document
Un cross-encoder concatène la requête et un passage candidat en une seule séquence d’entrée et les fait passer ensemble dans un réseau transformer, qui produit un score scalaire de pertinence pour cette paire précise. Rodrigo Nogueira et Kyunghyun Cho ont démontré l’efficacité de ce schéma de reranking neuronal dans Passage Re-ranking with BERT (2019), une approche souvent appelée monoBERT dans la littérature sur la recherche d’information.
Fournir les deux textes ensemble au modèle permet à l’attention interne de relier chaque token de la requête à chaque token du document à chaque couche. Le modèle peut repérer directement les correspondances exactes d’entités, les négations, les restrictions et les dépendances entre plusieurs mots. Cette attention conjointe a un coût de calcul important : on ne peut pas précalculer un vecteur de document statique qui tienne déjà compte d’une future requête inconnue. Chaque paire (query, candidate) exige son propre passage avant neuronal au moment de la requête, ce qui limite les cross-encoders à de courtes listes de candidats.
Où se situent les modèles à interaction tardive
Les architectures à interaction tardive occupent une position intermédiaire entre les bi-encoders à vecteur unique et les cross-encoders complets. Dans ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT (SIGIR 2020), Omar Khattab et Matei Zaharia conservent des vecteurs distincts par token pour chaque document et comparent les tokens de la requête à ceux des documents au moment de la recherche. Conserver des représentations pour chaque token capte des signaux de correspondance plus riches qu’un seul vecteur agrégé tout en évitant le coût d’un passage conjoint complet dans le transformer pour chaque paire requête-passage.
| Architecture | Encodage des entrées | Représentations des documents précalculables ? | Évaluation à la requête | Rôle habituel dans le pipeline |
|---|---|---|---|---|
| Bi-encoder | Requête et passage encodés séparément en vecteurs uniques | Oui (un vecteur par fragment) | Similarité cosinus ou produit scalaire par recherche ANN | Récupération dense initiale dans de grandes collections |
| Interaction tardive (ex. : ColBERT) | Requête et passage encodés séparément en vecteurs par token | Oui (plusieurs vecteurs de tokens par fragment) | Interaction entre tokens sur les représentations stockées | Récupération de haute précision ou réévaluation intermédiaire |
| Cross-encoder | Requête et passage concaténés et traités ensemble | Non (requiert la requête à l’inférence) | Passage avant complet du modèle par paire (query, passage) |
Reranker de seconde étape sur une courte liste de candidats |
La limite fondamentale du reranking : le rappel initial
Un reranker ne peut réordonner que les candidats réellement trouvés par l’outil de récupération initial, ce qui signifie que tout passage absent de la liste initiale reste invisible pour le reste du pipeline. Si votre recherche vectorielle ou votre index de mots-clés récupère 50 fragments et qu’aucun ne contient la réponse, même un cross-encoder idéal ne peut que trier 50 fragments inutiles dans un ordre légèrement plus propre.
Lorsque je diagnostique la qualité de récupération d’un pipeline RAG, distinguer les échecs de rappel des échecs de classement est toujours la première étape. Vérifiez si le bon passage figure quelque part dans la liste brute des candidats initiaux avant de chercher un reranker. Si le passage pertinent manque entièrement, le problème se situe en amont :
- Mauvaise segmentation des documents : Séparer les tableaux, titres ou conditions de leur contexte compromet la récupération avant même l’évaluation. Consultez comment découper les documents pour le RAG pour corriger les coupures structurelles.
- Représentations inadéquates : Le jargon spécialisé, les références de pièces ou les acronymes échappent souvent aux embeddings denses génériques s’ils ne sont pas associés à une recherche lexicale.
- Erreurs d’index et de filtres : Des index périmés, des filtres de métadonnées trop agressifs ou des règles de contrôle d’accès défectueuses écartent des documents valides avant l’évaluation.
Le reranking résout un problème d’ordre dans un ensemble de candidats qui contient déjà la réponse. Des corrections de la récupération en amont sont nécessaires chaque fois que cet ensemble revient sans la réponse.
Quand un reranker vaut-il la latence et le coût supplémentaires ?
L’étape d’inférence supplémentaire vaut la peine lorsque la recherche initiale retrouve régulièrement les fragments pertinents dans l’ensemble de candidats, mais laisse des résultats moins bons en haut de la liste. Un reranker ajoutant de la complexité, son intérêt est le plus clair lorsque la précision en aval dépend fortement de la précision des k premiers résultats.
Scénarios où le reranking est rentable
- Premiers résultats bruités malgré un rappel correct : La récupération initiale trouve le bon passage parmi les premières dizaines de résultats, mais la similarité vectorielle brute classe des résumés plus généraux devant la clause précise recherchée.
- Budgets de prompt serrés : Envoyer moins de fragments, mais plus pertinents, au modèle de langage économise des tokens d’entrée et empêche des textes indirectement liés de détourner la génération.
- Tâches sensibles aux citations : Les bots de support client, assistants de politiques internes et outils de recherche documentaire doivent placer le passage source exact parmi les premiers résultats ; leurs utilisateurs acceptent généralement une attente modérée pour une meilleure réponse.
- Fusion de recherche hybride : Combiner les résultats par mots-clés d’un index lexical et les résultats sémantiques d’un index vectoriel produit deux listes dont les échelles de scores sont incompatibles. Appliquer un cross-encoder aux candidats fusionnés produit un classement de pertinence unique sans dépendre uniquement de pondérations heuristiques de fusion des rangs.
Scénarios où le reranking apporte peu
- Premiers résultats déjà pertinents : Si votre outil de récupération place déjà les bons passages aux premières positions pour vos requêtes, un passage supplémentaire du modèle ajoute un coût sans changer ce que voit le modèle de langage.
- Budgets stricts de latence interactive : Les agents vocaux en temps réel, l’autocomplétion au fil de la frappe et les interactions d’interface en moins d’une seconde ont rarement le temps d’ajouter une série de passages avant du transformer avant la génération.
- Très petits ensembles de candidats précis : Les pipelines qui ne récupèrent que 3 à 5 fragments étroitement filtrés à partir de métadonnées structurées envoient déjà presque toute la liste au prompt.
- Comportement spécialisé plutôt que recherche : Si le modèle peine avec le style de sortie ou le format d’une tâche spécialisée plutôt qu’avec la sélection des passages, consultez RAG ou fine-tuning pour vérifier que vous corrigez la bonne couche du système.
Coûts opérationnels et compromis d’un reranker
Un reranker introduit du calcul d’inférence par candidat, une latence sérielle sur le chemin critique et une dépendance supplémentaire à un modèle à exploiter ou à acheter. Évaluer ces coûts opérationnels en amont évite de considérer rerank RAG comme un simple interrupteur de précision gratuit.
- Appels d’inférence supplémentaires : Le travail du cross-encoder augmente avec le nombre de candidats par requête, la longueur en tokens de chaque passage et le volume total de requêtes. Évaluer de longs fragments ou de longues listes de candidats multiplie rapidement les besoins de calcul.
- Latence sérielle : Le reranking se situe directement entre la récupération initiale et la diffusion des tokens du LLM. Chaque lot de candidats doit être entièrement évalué avant que le modèle de langage puisse lire le prompt et émettre son premier token de sortie.
- Un modèle de plus en production : Les équipes appellent une API de reranking commerciale hébergée ou déploient un reranker à poids ouverts sur leurs propres GPU. Dans les deux cas s’ajoutent la gestion des versions et des délais d’attente, un mécanisme de repli si le modèle d’évaluation est indisponible et la supervision.
- Rendements décroissants pour les longues listes : À titre d’exemple illustratif et non de règle fixe, réévaluer 20 candidats peut déjà capturer les fragments pertinents trouvés par la recherche initiale, alors que réévaluer 1 000 candidats avec un cross-encoder lourd multiplie les calculs et l’attente pour un gain minime si les passages utiles figuraient déjà en haut de liste.
Certaines équipes évitent les cross-encoders spécialisés et demandent à un modèle de langage généraliste d’évaluer ou de filtrer directement les passages récupérés. Utiliser un modèle génératif pour juger des passages est toutefois une approche distincte, généralement plus lente et plus coûteuse par candidat. De nombreuses applications RAG simples n’ajoutent jamais de reranker de seconde étape et atteignent leurs objectifs de qualité grâce à un découpage bien réglé, des filtres de métadonnées et une recherche hybride.
Ce qu’un reranker n’est pas
Un reranker est un modèle qui évalue une liste restreinte, distinct des moteurs de stockage, des générateurs d’embeddings et des couches de vérification de la véracité. Bien définir ses limites évite des malentendus architecturaux courants :
- Ni base vectorielle ni modèle d’embedding : Les modèles d’embedding transforment les textes individuels en vecteurs, et les bases vectorielles les indexent pour une recherche rapide. Un reranker ne stocke rien et produit à la volée des scores de pertinence pour des paires candidates.
- Aucune garantie d’exactitude factuelle ni d’autorisation : Un cross-encoder estime dans quelle mesure un passage correspond à une requête. Des politiques périmées, des affirmations inexactes ou des documents qu’un utilisateur n’est pas autorisé à consulter peuvent tout de même obtenir un score élevé s’ils correspondent aux mots de la question ; le filtrage des accès et la gouvernance du contenu relèvent d’autres composants.
- Aucun remplacement d’une évaluation propre au corpus : Les benchmarks publics ne reflètent jamais exactement la structure de vos documents, la formulation de vos requêtes ou vos limites de latence. Mesurer les taux de succès de la récupération et la qualité des réponses de bout en bout sur vos propres requêtes reste le seul moyen fiable de vérifier l’intérêt d’un reranker.
FAQ
Chaque pipeline RAG a-t-il besoin d’un reranker ?
Non. De nombreux pipelines RAG en production fonctionnent bien avec une seule étape de récupération lorsque l’ensemble de candidats est petit, que la précision initiale est déjà élevée ou que des limites strictes de latence s’appliquent, comme pour les interfaces vocales et l’autocomplétion. Les équipes ajoutent généralement un reranker après avoir vérifié que les passages pertinents figurent dans l’ensemble élargi de candidats alors que des résultats moins bons occupent encore les premières places.
Un cross-encoder peut-il rechercher directement dans toute une collection de documents ?
Appliquer un cross-encoder à une grande collection au moment de la requête est généralement peu pratique, car le modèle doit traiter chaque paire requête-document ensemble dans un passage avant distinct. Les scores des documents dépendent de la requête reçue et ne peuvent pas être précalculés dans un index statique. Les systèmes de recherche s’appuient donc d’abord sur des index lexicaux ou vectoriels et réservent les cross-encoders à la réévaluation d’une petite liste.
Comment un reranker fonctionne-t-il avec une recherche hybride ?
Dans une recherche hybride, un outil de récupération lexical tel qu’un index de type BM25 et un outil vectoriel dense renvoient des listes distinctes de candidats dont les échelles de scores bruts sont incompatibles. Transmettre les candidats combinés et dédupliqués à un reranker permet à un seul modèle d’évaluer chaque passage directement par rapport à la requête et de produire un classement de pertinence unique avant l’envoi des meilleurs fragments au modèle de langage.
Quelle est la différence entre un modèle d’embedding et un reranker ?
Un modèle d’embedding encode indépendamment les requêtes et les documents en vecteurs fixes afin qu’un index vectoriel trouve des correspondances approximatives parmi des millions d’éléments. Un reranker neuronal, généralement un cross-encoder, traite ensemble une requête et un passage candidat et produit un score direct de pertinence pour cette paire précise, en échangeant indexabilité et vitesse contre un classement plus précis sur une liste restreinte.
Faut-il utiliser un reranker à poids ouverts ou une API de reranking hébergée ?
Les deux options de déploiement occupent la même place dans l’architecture, entre la récupération initiale et la génération. Les API de reranking hébergées évitent le provisionnement des GPU, la mise à l’échelle et l’exploitation du modèle, en échange d’appels réseau et d’une facturation par requête. Héberger soi-même un reranker à poids ouverts conserve les données dans votre infrastructure et donne un contrôle direct sur les versions du modèle, mais impose de gérer le matériel d’inférence et la disponibilité.
Sources
- Rodrigo Nogueira et Kyunghyun Cho, Passage Re-ranking with BERT (2019)
- Nils Reimers et Iryna Gurevych, Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks (EMNLP 2019)
- Omar Khattab et Matei Zaharia, ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT (SIGIR 2020)



