Un reranker es un modelo de segunda etapa que recibe una consulta y una lista corta de candidatos de una búsqueda inicial, y vuelve a puntuarlos para que los pasajes más relevantes suban a las primeras posiciones. En la generación aumentada por recuperación (RAG), el reranking reduce los resultados amplios de búsqueda a los mejores fragmentos que se envían al modelo de lenguaje.
Los buscadores y los sistemas de generación aumentada por recuperación (RAG) afrontan una tensión básica entre velocidad y precisión de clasificación. Examinar millones de pasajes exige un método de búsqueda económico, pero las puntuaciones de similitud económicas suelen colocar pasajes relacionados solo de forma tangencial por delante de la respuesta exacta. El reranking de pasajes resuelve esa tensión al dividir la recuperación en una búsqueda amplia y rápida de candidatos seguida de una evaluación más lenta y minuciosa de una lista corta.
¿Cómo funciona la recuperación en dos etapas en la búsqueda y RAG?
La recuperación en dos etapas separa la generación rápida de candidatos en todo un corpus de la evaluación de alta precisión de un pequeño subconjunto de resultados. Los sistemas de recuperación de información empleaban este patrón mucho antes de los modelos de lenguaje modernos, y los sistemas RAG adoptan la misma división del trabajo para proteger la ventana de contexto del prompt de resultados irrelevantes.
Un sistema RAG estándar de dos etapas sigue tres pasos consecutivos:
- Recuperación inicial (generación de candidatos): Un recuperador rápido busca en toda la colección y devuelve desde decenas hasta unos cientos de fragmentos candidatos. Los métodos habituales incluyen la búsqueda léxica en índices invertidos de tipo BM25, la recuperación densa mediante embeddings de texto y búsqueda aproximada de vecinos más cercanos (ANN) en una base de datos vectorial, o una combinación híbrida de ambos.
- Reranking de pasajes: Un reranker especializado evalúa la consulta del usuario junto con cada fragmento candidato de la primera etapa y asigna una nueva puntuación de relevancia, reordenando la lista corta.
- Generación: Tras el reranking, la aplicación conserva solo los n pasajes con mayor puntuación y los coloca en el prompt del modelo de lenguaje junto a la pregunta del usuario.
La recuperación inicial optimiza la exhaustividad y la baja latencia en un índice grande. El reranking de pasajes optimiza la precisión en las primeras posiciones de una lista corta. Añadir un reranker no cambia el modelo de lenguaje posterior ni el sistema de registro subyacente; simplemente decide qué fragmentos recuperados merecen un lugar en el prompt.
Bi-encoder frente a cross-encoder: ¿por qué un modelo no puede hacer ambas cosas?
Los bi-encoders y los cross-encoders procesan consultas y documentos mediante rutas de cálculo distintas, lo que crea una disyuntiva directa entre la indexación fuera de línea y la comparación conjunta a nivel de token. Entender la arquitectura bi-encoder vs cross-encoder explica por qué casi ningún sistema en producción aplica un cross-encoder a toda una base de datos y por qué la similitud vectorial por sí sola a veces ordena mal candidatos parecidos.
Cómo permiten los bi-encoders una recuperación inicial rápida
Un bi-encoder (también llamado codificador dual o modelo de embeddings) pasa la consulta y cada documento por dos procesos de codificación independientes para producir vectores separados de longitud fija. Nils Reimers e Iryna Gurevych formalizaron una versión muy citada de esta arquitectura siamesa para texto en Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks (EMNLP 2019).
Como la codificación del documento nunca ve la consulta del usuario, cada fragmento del corpus puede convertirse en embedding previamente y fuera de línea, y almacenarse en un índice vectorial. Cuando un usuario envía una consulta, el sistema solo codifica la consulta una vez y compara ese vector con millones de vectores de documentos precalculados mediante una operación matemática ligera, como la similitud coseno o el producto escalar. Comprimir un pasaje completo en un solo vector antes de conocer la pregunta hace viable la búsqueda a gran escala, aunque en la compresión pueden perderse relaciones lingüísticas sutiles entre la consulta y el pasaje.
Cómo puntúan los cross-encoders los pares de consulta y documento
Un cross-encoder concatena la consulta y un pasaje candidato en una sola secuencia de entrada y los introduce juntos en una red transformer, que produce una puntuación escalar de relevancia para ese par concreto. Rodrigo Nogueira y Kyunghyun Cho demostraron la eficacia de este patrón de reranking neuronal en Passage Re-ranking with BERT (2019), un enfoque que suele llamarse monoBERT en la literatura sobre recuperación.
Introducir ambos textos juntos permite que la autoatención opere entre cada token de la consulta y cada token del documento en cada capa. El modelo puede detectar directamente coincidencias exactas de entidades, negaciones, matices y dependencias entre varias palabras. Esa atención conjunta tiene una importante contrapartida computacional: no se puede precalcular un vector estático del documento que ya tenga en cuenta una consulta futura desconocida. Cada par (query, candidate) exige su propia pasada neuronal hacia delante en el momento de la consulta, lo que limita los cross-encoders a listas cortas de candidatos.
Dónde encajan los modelos de interacción tardía
Las arquitecturas de interacción tardía ocupan un punto intermedio entre los bi-encoders de un solo vector y los cross-encoders completos. En ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT (SIGIR 2020), Omar Khattab y Matei Zaharia conservan vectores separados a nivel de token para cada documento y comparan los tokens de la consulta con los del documento al realizar la búsqueda. Conservar representaciones por token captura señales de coincidencia más ricas que un único vector agregado y evita el coste de ejecutar una pasada conjunta completa del transformer para cada par de consulta y pasaje.
| Arquitectura | Cómo se codifican las entradas | ¿Se pueden precalcular las representaciones de documentos? | Puntuación en el momento de la consulta | Función habitual en el sistema |
|---|---|---|---|---|
| Bi-encoder | Consulta y pasaje codificados por separado en vectores únicos | Sí (un vector por fragmento) | Similitud coseno o producto escalar mediante búsqueda ANN | Recuperación densa inicial en grandes colecciones |
| Interacción tardía (p. ej., ColBERT) | Consulta y pasaje codificados por separado en vectores por token | Sí (varios vectores de tokens por fragmento) | Interacción a nivel de token entre representaciones almacenadas | Recuperación de alta precisión o reevaluación intermedia |
| Cross-encoder | Consulta y pasaje concatenados y procesados conjuntamente | No (necesita la consulta en la inferencia) | Pasada completa del modelo por cada par (query, passage) |
Reranker de segunda etapa para una lista corta de candidatos |
El límite del reranking de pasajes: la exhaustividad inicial
Un reranker solo puede reordenar candidatos que el recuperador inicial haya encontrado realmente, de modo que cualquier pasaje omitido de la lista inicial permanece invisible para el resto del sistema. Si la búsqueda vectorial o el índice de palabras clave recupera 50 fragmentos y ninguno contiene la respuesta, incluso un cross-encoder ideal solo puede ordenar 50 fragmentos inútiles de forma algo más clara.
Cuando diagnostico la calidad de recuperación en un sistema RAG, separar los fallos de exhaustividad de los fallos de clasificación es siempre el primer paso. Comprueba si el pasaje correcto aparece en algún lugar de la lista bruta de candidatos iniciales antes de buscar un reranker. Si el pasaje relevante falta por completo, el cuello de botella está en una etapa anterior:
- Segmentación deficiente de documentos: Separar tablas, encabezados o condiciones de su contexto perjudica la recuperación antes de que comience la puntuación. Consulta cómo dividir documentos para RAG para corregir las divisiones estructurales.
- Representaciones inadecuadas: La jerga especializada, los números de pieza o las siglas suelen escapar a los embeddings densos genéricos si no se combinan con búsqueda léxica.
- Errores de índice y filtros: Los índices desactualizados, los filtros de metadatos demasiado restrictivos o las reglas de control de acceso defectuosas excluyen documentos válidos antes de puntuarlos.
El reranking resuelve un problema de orden dentro de un conjunto de candidatos que ya contiene la respuesta. Cuando ese conjunto no trae la respuesta, es necesario corregir la recuperación previa.
¿Cuándo compensa añadir un reranker pese a la latencia y el coste adicionales?
El paso extra de inferencia compensa cuando la búsqueda inicial incorpora de forma fiable fragmentos relevantes al conjunto de candidatos, pero deja coincidencias más débiles cerca de los primeros puestos. Como un reranker añade complejidad, los equipos obtienen el beneficio más claro cuando la precisión posterior depende mucho de la precisión de los k primeros resultados.
Situaciones en las que el reranking compensa
- Resultados iniciales ruidosos con una exhaustividad aceptable: La recuperación inicial encuentra el pasaje correcto entre las primeras decenas de resultados, pero la similitud vectorial bruta coloca fragmentos de resumen más generales por delante de la cláusula específica necesaria.
- Presupuestos de prompt ajustados: Enviar menos fragmentos y más pertinentes al modelo de lenguaje ahorra tokens de entrada e impide que texto tangencial y distractor desvíe la generación.
- Tareas sensibles a las citas: Los bots de atención al cliente, los asistentes de políticas internas y las herramientas de búsqueda documental necesitan colocar el pasaje exacto de la fuente entre los primeros resultados, y sus usuarios suelen tolerar una espera moderada para obtener una respuesta mejor.
- Fusión de búsqueda híbrida: Combinar resultados por palabras clave de un índice léxico con resultados semánticos de un índice vectorial produce dos listas con escalas de puntuación incompatibles. Aplicar un cross-encoder a los candidatos fusionados produce una clasificación de relevancia unificada sin depender únicamente de ponderaciones heurísticas para combinar posiciones.
Situaciones en las que el reranking aporta poco
- Los k primeros resultados iniciales ya son adecuados: Si el recuperador existente ya sitúa los pasajes correctos en las primeras posiciones para tus consultas, otra pasada del modelo añade coste sin cambiar lo que ve el modelo de lenguaje.
- Límites estrictos de latencia interactiva: Los agentes de voz en tiempo real, el autocompletado al escribir y las interacciones de interfaz inferiores a un segundo rara vez admiten una ronda adicional de pasadas hacia delante del transformer antes de generar.
- Conjuntos de candidatos diminutos y precisos: Los sistemas que solo recuperan de 3 a 5 fragmentos muy filtrados a partir de metadatos estructurados ya envían casi toda la lista corta al prompt.
- Comportamiento especializado frente a problemas de búsqueda: Si el modelo tiene dificultades con el estilo de salida o el formato de tareas especializadas, en lugar de con la selección de pasajes, consulta RAG frente a fine-tuning para asegurarte de resolver la capa correcta del sistema.
Costes operativos y disyuntivas de usar un reranker
Usar un reranker introduce cálculo de inferencia por candidato, latencia en serie en la ruta crítica y una dependencia adicional de un modelo que hay que operar o contratar. Evaluar estos costes operativos de antemano evita que los equipos traten rerank RAG como un interruptor gratuito de precisión.
- Llamadas de inferencia adicionales: El trabajo del cross-encoder aumenta con el número de candidatos por consulta, la longitud en tokens de cada pasaje y el tráfico total de consultas. Puntuar fragmentos largos o listas extensas de candidatos multiplica rápidamente el consumo de cálculo.
- Latencia en serie: El reranking se sitúa directamente entre la recuperación inicial y la transmisión de tokens del LLM. Cada lote de candidatos debe terminar de puntuarse antes de que el modelo de lenguaje pueda leer el prompt y emitir su primer token de salida.
- Otro modelo en producción: Los equipos llaman a una API comercial de reranking alojada o despliegan un reranker de pesos abiertos en sus propias GPU. Ambas opciones añaden gestión de versiones, tiempos de espera, comportamiento alternativo cuando el evaluador no está disponible y supervisión.
- Rendimientos decrecientes en listas extensas: Como ejemplo ilustrativo y no como regla fija, volver a puntuar 20 candidatos puede capturar los fragmentos relevantes que ya encontró la búsqueda inicial, mientras que volver a puntuar 1.000 candidatos con un cross-encoder pesado multiplica el cálculo y la espera para obtener una mejora mínima si los pasajes útiles ya estaban cerca de los primeros puestos.
Algunos equipos prescinden de cross-encoders especializados y piden a un modelo de lenguaje general que puntúe o filtre directamente los pasajes recuperados. No obstante, usar un modelo generativo como juez de pasajes es otro patrón, normalmente más lento y más caro por candidato. Muchas aplicaciones RAG sencillas nunca añaden un reranker de segunda etapa y alcanzan sus objetivos de calidad con una buena división en fragmentos, filtros de metadatos y búsqueda híbrida.
Qué no es un reranker
Un reranker es un modelo que puntúa una lista corta, distinto de los motores de almacenamiento, los generadores de embeddings y las capas de verificación de veracidad. Mantener claros sus límites evita malentendidos habituales de arquitectura:
- Ni una base de datos vectorial ni un modelo de embeddings: Los modelos de embeddings convierten textos individuales en vectores, y las bases de datos vectoriales los indexan para buscarlos rápidamente. Un reranker no almacena nada y produce puntuaciones de relevancia para pares de candidatos sobre la marcha.
- No garantiza exactitud factual ni autorización: Un cross-encoder calcula hasta qué punto un pasaje coincide con una consulta. Las políticas desactualizadas, las afirmaciones incorrectas o los documentos que un usuario no tiene permiso para ver pueden seguir obteniendo puntuaciones altas si coinciden con la formulación de la pregunta; el filtrado de acceso y la gobernanza del contenido corresponden a componentes externos al reranker.
- No sustituye una evaluación específica del corpus: Los benchmarks públicos de modelos nunca reflejan exactamente la estructura de tus documentos, la formulación de tus consultas ni tus límites de latencia. Medir las tasas de acierto de recuperación y la calidad integral de las respuestas con tus propias consultas sigue siendo la única forma fiable de comprobar si un reranker merece la pena.
FAQ
¿Todos los sistemas RAG necesitan un reranker?
No. Muchos sistemas RAG en producción funcionan bien con una sola etapa de recuperación cuando el conjunto de candidatos es pequeño, la precisión inicial ya es alta o existen límites estrictos de latencia, como en interfaces de voz y autocompletado. Los equipos suelen añadir un reranker solo después de comprobar que los pasajes relevantes aparecen en el conjunto amplio de candidatos mientras otros resultados más débiles siguen ocupando los primeros puestos.
¿Puede un cross-encoder buscar directamente en toda una colección de documentos?
Aplicar un cross-encoder a una colección grande en el momento de la consulta suele ser inviable porque el modelo debe procesar conjuntamente cada par de consulta y documento en una pasada hacia delante independiente. Las puntuaciones de los documentos dependen de la consulta recibida y no pueden precalcularse en un índice estático. Por ello, los sistemas de búsqueda usan primero índices léxicos o vectoriales y reservan los cross-encoders para reevaluar una lista pequeña.
¿Cómo funciona un reranker con la búsqueda híbrida?
En la búsqueda híbrida, un recuperador léxico, como un índice de tipo BM25, y un recuperador vectorial denso devuelven listas separadas de candidatos con escalas de puntuación bruta incompatibles. Pasar los candidatos combinados y sin duplicados a un reranker permite que un solo modelo evalúe directamente cada pasaje frente a la consulta y produzca un orden de relevancia unificado antes de enviar los mejores fragmentos al modelo de lenguaje.
¿En qué se diferencia un modelo de embeddings de un reranker?
Un modelo de embeddings codifica consultas y documentos de forma independiente en vectores fijos para que un índice vectorial encuentre coincidencias aproximadas entre millones de elementos. Un reranker neuronal, normalmente un cross-encoder, recibe juntos una consulta y un pasaje candidato y produce una puntuación directa de relevancia para ese par concreto, sacrificando facilidad de indexación y velocidad a cambio de una clasificación más precisa en una lista corta.
¿Conviene ejecutar un reranker de pesos abiertos o llamar a una API de reranking alojada?
Ambas opciones de despliegue ocupan el mismo lugar en la arquitectura entre la recuperación inicial y la generación. Las API de reranking alojadas eliminan el trabajo de aprovisionar GPU, escalar y servir el modelo a cambio de llamadas de red y facturación del proveedor por solicitud. Alojar un reranker de pesos abiertos en infraestructura propia mantiene los datos dentro de ella y permite controlar directamente las versiones del modelo, pero exige gestionar el hardware de inferencia y la disponibilidad.
Fuentes
- Rodrigo Nogueira y Kyunghyun Cho, Passage Re-ranking with BERT (2019)
- Nils Reimers e Iryna Gurevych, Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks (EMNLP 2019)
- Omar Khattab y Matei Zaharia, ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT (SIGIR 2020)



