RAG : pourquoi ajouter de la complexité trop tôt est une erreur fatale

LE PROBLÈME : DES ARCHITECTURES TROP COMPLEXES POUR RIEN

Les systèmes Retrieval-Augmented Generation (RAG) ont évolué bien au-delà du modèle initial qui récupérait des informations puis générait une réponse. Aujourd'hui, ils intègrent des recherches lexicales et sémantiques, des réécritures de requêtes, des fusions de classements, des réordonnancements neuronaux, des décompositions de questions, des récupérations correctives, des réflexions et même des orchestrations basées sur des agents.

Ces techniques améliorent effectivement les performances sur des tâches complexes de Recherche d'informations. Pourtant, elles sont souvent intégrées avant même que le sous-système de récupération n'ait été évalué indépendamment. Résultat : des architectures qui semblent sophistiquées, mais qui échouent pour une raison bien plus simple.

RÉCUPÉRATION ET RAISONNEMENT : DEUX CAPACITÉS SÉPARÉES

Un système RAG effectue deux opérations conceptuellement distinctes :

Récupération : identifier les informations susceptibles de contenir la réponse à une requête.

Génération : interpréter les informations récupérées et construire une réponse appropriée.

Ces deux étapes sont souvent évaluées ensemble car la réponse générée est ce que l'utilisateur voit. Pourtant, d'un point de vue conception, leurs modes d'échec doivent être séparés.

Prenons une requête contre une collection d'accords commerciaux :

Quelles dispositions de résiliation s'appliquent si le fournisseur ne respecte pas à plusieurs reprises son SLA ?

Le système pourrait récupérer un paragraphe décrivant les obligations générales du fournisseur ou plusieurs passages contenant l'expression niveau de service. Mais la clause de résiliation elle-même pourrait être classée en dehors du top-5 des résultats récupérés.

Un modèle de langage suffisamment capable pourrait produire une réponse plausible basée sur des schémas contractuels généraux. Elle pourrait même sembler correcte. Pourtant, le système a échoué à la récupération : aucune modification du prompt de génération ne peut récupérer une preuve qui n'est jamais entrée dans le contexte du modèle.

LA QUESTION CLÉ : LA PREUVE ÉTAIT-ELLE DANS L'ENSEMBLE DES CANDIDATS ?

Cette question doit être résolue avant de modifier la couche de raisonnement ou de génération. Pourtant, dans de nombreux systèmes modernes, on observe ce schéma :

Un problème de récupération apparaît. Avant même d'établir si la récupération fonctionne correctement, l'architecture accumule des réécritures de requêtes, des routages, des passes de récupération multiples, des réflexions, des récupérations correctives, un agent décidant si des preuves supplémentaires sont nécessaires, un modèle de réordonnancement, et parfois un autre modèle chargé de vérifier la réponse finale.

L'architecture résultante semble sophistiquée. Pourtant, le système peut toujours échouer pour une raison bien plus simple : la preuve nécessaire était classée en dehors de l'ensemble des candidats et n'est jamais entrée dans le contexte du modèle.

Cela distingue deux capacités du système : la récupération et le raisonnement. Si la preuve nécessaire n'est pas récupérée, des raisonnements supplémentaires après récupération ne corrigeront pas la cause racine. Ils risquent plutôt d'augmenter la latence, la consommation de tokens, le nondéterminisme et le nombre de composants nécessitant une évaluation.

LEXICAL OU SÉMANTIQUE : DEUX APPROCHES COMPLÉMENTAIRES

Une idée reçue suggère que les recherches basées sur des plongements (embeddings) ont rendu les recherches lexicales obsolètes. Les données empiriques ne soutiennent pas cette interprétation. BM25 reste un mécanisme de récupération très compétitif, particulièrement dans les domaines où les correspondances lexicales exactes portent une information significative.

La fonction de classement de BM25 peut s'exprimer approximativement comme :

score(D,Q) = Σ (IDF(qi)  (f(qi,D)  (k1 + 1)) / (f(qi,D) + k1  (1 - b + b  (|D| / avgdl))))

Où f(qi, D) représente la fréquence du terme de requête qi dans le document D, tandis que les termes restants tiennent compte de facteurs comme la saturation de la fréquence des termes et la normalisation de la longueur du document.

L'important ici n'est pas la formule exacte, mais la distinction entre récupération lexicale et sémantique. La recherche lexicale est particulièrement efficace lorsque les requêtes contiennent des identifiants ou une terminologie où la correspondance exacte compte, comme des codes d'erreur, des identifiants contractuels, des citations juridiques, des numéros de produit, des noms de fonctions, des symboles boursiers, des acronymes, une terminologie médicale, des champs de base de données, ou des noms et dates précis.

Par exemple, un modèle de plongement pourrait correctement déduire que TS-999 fait référence à une erreur technique, mais classer un passage sémantiquement similaire au-dessus du seul document contenant l'identifiant littéral TS-999. BM25 a l'effet inverse : les preuves lexicales exactes sont fortement récompensées.

Cela compte encore plus dans les corpus spécialisés, où la terminologie et les identifiants ont souvent plus de poids que la similarité sémantique large. Un benchmark de 2026 couvrant 23 088 questions financières et 7 318 documents mixtes texte-tableau a comparé dix stratégies de récupération, dont la récupération éparse, la récupération dense, la fusion hybride, le réordonnancement, l'expansion de requêtes, la récupération contextuelle et la récupération adaptative. Dans ce contexte, BM25 a surpassé la méthode de récupération dense de pointe évaluée.

L'HYBRIDATION : UTILISER LE MEILLEUR DES DEUX MONDES

La force de la récupération lexicale ne supprime pas le besoin de recherche sémantique. Elle met plutôt en lumière une limitation différente : les méthodes lexicales fonctionnent mieux lorsque la requête et la source partagent suffisamment de vocabulaire pour correspondre de manière fiable. Les plongements denses deviennent précieux lorsque le chevauchement lexical est faible.

Prenons la requête :

Dans quelles circonstances un employé peut-il démissionner volontairement ?

La formulation pourrait être différente. Les plongements denses peuvent capturer cette relation sémantique et récupérer le matériel pertinent. C'est là que la récupération hybride devient utile : au lieu de choisir entre recherche lexicale et sémantique, le système peut utiliser les deux pour générer des candidats, puis combiner leurs classements.

Une approche courante pour combiner les classements est la Reciprocal Rank Fusion (Fusion de Rang Réciproque) :

RRFscore(d) = Σ (1 / (k + rank_i(d)))

Au lieu de comparer directement les scores BM25 avec les scores de similarité de plongement, qui ne sont pas nécessairement sur des échelles comparables, la RRF combine les résultats en fonction du rang relatif.

L'ensemble de candidats résultant peut ensuite être évalué par un cross-encoder ou un autre réordonnanceur. Cette distinction entre génération de candidats et réordonnancement est importante. La première étape de récupération est principalement responsable du rappel. Elle doit récupérer un ensemble de candidats suffisamment large pour que le matériel pertinent ne soit pas écarté. Le réordonnanceur opère sur un ensemble beaucoup plus petit et peut donc consacrer plus de calculs à l'estimation de la pertinence.

Des preuves récentes soutiennent cette approche. Le benchmark financier de 2026 mentionné précédemment a révélé que l'approche la plus performante n'était pas BM25 seul. Une architecture à deux étages combinant récupération hybride et réordonnancement neuronal a atteint un Recall@5 de 0,816 et un MRR@3 de 0,605, surpassant les méthodes à un seul étage évaluées de manière substantielle.

LA QUALITÉ DE RÉCUPÉRATION COMMENCE DÈS L'INGESTION

Jusqu'à présent, nous avons parlé des méthodes de récupération. Pourtant, la qualité de récupération est déterminée en partie avant même qu'une requête de récupération ne soit émise.

L'analyse syntaxique, la segmentation des documents, la propagation des métadonnées, la gestion des tableaux et la construction des chunks déterminent les unités sur lesquelles opère la récupération.

Un découpeur à tokens fixes pourrait produire :

Chunk 41Section 7 — TerminationThe customer may terminate the agreement if service availability

Chunk 42falls below 99.5% for three consecutive months.Notice must be provided within 30 days.

Le Chunk 42 contient toujours la condition factuelle critique, mais il a perdu les informations nécessaires pour identifier à quoi cette condition fait référence. Une fois cette structure supprimée lors du découpage, le modèle de plongement ne peut pas la reconstruire de manière fiable.

Cela fait du découpage bien plus qu'un problème de gestion de tokens. C'est aussi un problème de représentation de l'information.

Les expériences de Contextual Retrieval d'Anthropic abordent explicitement ce problème en préfixant chaque chunk par un contexte court dérivé du document avant l'indexation. Dans ses expériences rapportées, les plongements contextuels ont réduit l'échec de récupération dans le top-20 de 5,7 % à 3,7 %. Combiner les plongements contextuels et BM25 contextuel l'a réduit davantage à 2,9 %, et le réordonnancement l'a réduit à 1,9 %.

QUAND LA COMPLEXITÉ AGENTIQUE DEVIENT UTILE

Il existe des besoins d'information pour lesquels la récupération statique est genuinely insuffisante. C'est là que la récupération agentique devient utile. Prenons une requête d'analyse financière :

Quelle entreprise avait la marge d'exploitation la plus élevée en 2025, l'entreprise A ou l'entreprise B, et quelle raison chacune a-t-elle identifiée comme cause principale de sa variation d'une année sur l'autre ?

Aucun passage individuel ne contient nécessairement la réponse complète. Il faut :

• identifier la période de reporting appropriée pour l'entreprise A,
• récupérer les commentaires de la direction expliquant la variation,
• reconcilier les différences de terminologie ou de périodes de reporting.

La limitation ici n'est pas simplement une mauvaise qualité de récupération. Le besoin d'information lui-même nécessite plusieurs étapes de récupération dépendantes.

Une couche de raisonnement pourrait transformer la requête originale en plusieurs opérations de récupération :

Q1 → Marge d'exploitation de l'entreprise A, 2025
Q2 → Explication de l'entreprise A pour la variation d'une année sur l'autre
Q3 → Marge d'exploitation de l'entreprise B, 2025
Q4 → Explication de l'entreprise B pour la variation d'une année sur l'autre

Les preuves résultantes peuvent ensuite être fusionnées et réordonnées avant la génération. La décomposition de questions a un soutien empirique dans cette classe de problèmes. Une étude de 2025 a évalué un pipeline de décomposition et de réordonnancement basé sur un LLM sur MultiHop-RAG et HotpotQA, rapportant une amélioration de 36,7 % du MRR@10 et de 11,6 % du answer F1 par rapport aux niveaux de base standard de RAG.

C'est une utilisation appropriée du raisonnement supplémentaire car l'échec provient de la structure même du besoin d'information.

D'autres cas défendables pour la récupération agentique incluent :

• un système qui doit déterminer si l'information demandée appartient à un ensemble de documents ou à un autre,
• une requête qui nécessite une clarification avant de pouvoir être traitée,
• des questions qui ne peuvent être répondues qu'en combinant des faits distribués à travers plusieurs documents ou systèmes, où un fait intermédiaire est nécessaire pour localiser le suivant.

Dans tous ces cas, l'agentivité ajoute quelque chose qu'un pipeline de récupération fixe peut ne pas exprimer clairement : un contrôle adaptatif sur le processus de récupération lui-même.

RECUPERATION ET AGENTS : UNE RELATION DE COMPLÉMENTARITÉ

Une étude de 2026 a comparé les récupérations lexicale, dense, graphique et agentique sur 28 tailles de corpus imbriquées allant d'environ 1 000 à 512 000 documents.

BM25 occupait l'extrémité à faible coût de la frontière de Pareto à chaque échelle mesurée et a mené en précision à partir des tailles de corpus intermédiaires. L'agent de système de fichiers brut était compétitif à petite échelle mais s'est détérioré considérablement à mesure que la taille du corpus augmentait, tout en consommant beaucoup plus de tokens au moment de la requête.

Le résultat le plus informatif est cependant apparu lorsque le mécanisme de récupération sous l'agent a été modifié. La couche de récupération plus forte n'a pas rendu l'agent redondant. Elle a rendu l'agent considérablement meilleur.

Ce résultat aide à séparer deux capacités souvent discutées comme si elles étaient interchangeables. La récupération détermine quelles preuves deviennent disponibles pour le système ; le raisonnement détermine comment ces preuves sont utilisées et ce qui doit se passer ensuite. Une base de récupération faible limite les preuves disponibles pour un agent, tandis qu'une base plus forte donne à la même couche de raisonnement une meilleure base pour les décisions suivantes.

La relation est donc mieux représentée comme :

Qualité de récupération + Raisonnement adaptatif → Recherche d'information améliorée

plutôt que :

Raisonnement agentique → Remplacement pour l'ingénierie de récupération

Cette étude illustre aussi pourquoi les débats présentés comme BM25 versus agents ou RAG classique versus RAG agentique sont souvent conceptuellement peu utiles, car ils opèrent à des niveaux différents de l'architecture.

LA COMPLEXITÉ A UN COÛT : LATENCE, TOKENS ET ÉCHECS

Jusqu'à présent, nous avons fait valoir que la complexité supplémentaire de récupération peut être justifiée lorsqu'elle répond à une limitation spécifique. Pourtant, cette complexité architecturale a des coûts au-delà de la dépense d'inférence.

Une architecture adaptative pourrait exécuter :

classify intent → construct search plan → generate subqueries → retrieve → inspect evidence → rewrite query → retrieve again → evaluate evidence sufficiency → possibly retrieve again → generate → verify

Cette dernière architecture introduit des coûts évidents en tokens et en latence. Plus important encore, elle introduit une surface d'échec plus grande. Une réponse incorrecte peut provenir :

• d'une mauvaise classification de l'intention,
• d'un plan de recherche incorrect,
• d'une sous-requête mal générée,
• d'une récupération insuffisante,
• d'une mauvaise interprétation des preuves,
• d'une réécriture de requête erronée,
• d'une évaluation insuffisante de la suffisance des preuves.

Chaque branche adaptative introduit également un nondéterminisme supplémentaire. Le problème opérationnel change donc de :

Le modèle a-t-il répondu correctement ?

à :

Quelle trajectoire a produit la réponse, et quel composant était responsable de l'échec ?

Cela a des implications directes pour l'observabilité. Les systèmes de récupération agentique de production nécessitent de plus en plus de traces contenant :

user query → ├── classification → ├── generated subqueries → ├── retrieval candidates → 
├── retrieval scores → ├── reranker scores → ├── tool calls → ├── intermediate evidence → 
├── agent decisions → └── final response

Sans ces informations, une amélioration de la précision globale peut masquer une détérioration ailleurs dans le système. Une architecture plus complexe n'est donc justifiée pas seulement lorsqu'elle améliore un score d'évaluation, mais lorsque l'amélioration est suffisamment grande pour justifier sa latence supplémentaire, son coût d'inférence, sa charge opérationnelle et ses modes d'échec.

ÉVALUER LA RÉCUPÉRATION INDÉPENDAMMENT : POURQUOI LA PRÉCISION GLOBALE N'EST PAS SUFFISANTE

La précision de la réponse finale seule est insuffisante pour diagnostiquer les systèmes RAG. Un modèle peut correctement répondre à une question en utilisant sa connaissance paramétrique, même si le système RAG a échoué à récupérer les preuves nécessaires. Une évaluation basée uniquement sur la réponse peut enregistrer un succès. Pourtant, un système d'entreprise ancré dans les faits devrait généralement enregistrer un échec.

La récupération doit donc être évaluée indépendamment en utilisant des métriques conventionnelles de récupération d'information.

Recall@k mesure combien de preuves pertinentes apparaissent dans les k premiers éléments récupérés. Pour de nombreuses applications RAG, le rappel est une métrique de première étape critique, car les preuves écartées avant la génération ne peuvent pas être récupérées ultérieurement.

Precision@k mesure la fraction des éléments récupérés qui sont pertinents. Un rappel élevé accompagné d'une précision très faible crée un mode d'échec différent : la preuve nécessaire est présente, mais elle est entourée d'un contexte suffisamment irrélevant pour dégrader les performances du modèle.

Mean Reciprocal Rank évalue à quel point le premier résultat pertinent apparaît tôt : un système qui récupère systématiquement le bon document à la position 18 a un profil opérationnel matériellement différent de celui qui le classe en première position.

nDCG devient utile lorsque la pertinence est graduée plutôt que binaire. Les preuves hautement pertinentes apparaissant près du haut du classement reçoivent une valeur plus grande que les preuves plus faibles apparaissant plus bas.