Qu'est-ce que le RAG (retrieval-augmented generation) ?
Le RAG, pour retrieval-augmented generation, est une méthode qui consiste à retrouver les passages pertinents de vos propres documents au moment où une question est posée, puis à les fournir au modèle de langage pour qu'il réponde à partir de ces passages plutôt que de sa seule mémoire d'entraînement.
Définition
Le RAG — retrieval-augmented generation, génération augmentée par la recherche — est une méthode qui consiste à retrouver les passages pertinents de documents existants au moment où une question est posée, puis à les fournir au modèle de langage pour qu'il compose sa réponse à partir de ces passages.
Le point important tient en une phrase : vos documents ne sont pas appris par le modèle. Ils sont consultés à la demande, le temps d'une réponse, comme un juriste consulte un dossier avant de répondre plutôt que de se fier à sa mémoire.
Le problème que ça résout
Un modèle de langage ne connaît que ce qu'il a vu pendant son entraînement. Il ignore vos contrats, vos procédures internes, vos tarifs et l'historique de vos clients. Interrogé malgré tout, il produit une réponse vraisemblable — c'est-à-dire, dans le meilleur des cas, générique, et dans le pire, fausse mais crédible.
Le RAG corrige cela en ancrant la réponse dans des sources réelles, ce qui permet aussi de citer le document d'origine. Cette traçabilité est souvent plus précieuse que la réponse elle-même : elle rend la vérification possible.
Les deux temps du RAG
1. L'indexation, une fois
- Collecte des documents : PDF, traitements de texte, pages internes, courriels archivés.
- Extraction du texte, avec de l'OCR si les documents sont scannés.
- Découpage en fragments de taille raisonnable. Un découpage trop fin perd le contexte ; trop grossier, il noie l'information utile.
- Calcul des embeddings : chaque fragment est converti en une représentation numérique qui situe son sens.
- Stockage dans une base vectorielle, qui sait retrouver rapidement les fragments proches d'une question.
2. La consultation, à chaque question
- La question est convertie en embedding par le même procédé.
- La base renvoie les fragments les plus proches.
- Ces fragments sont placés dans le contexte du modèle, accompagnés de la consigne de répondre à partir d'eux.
- Le modèle rédige, et peut indiquer de quels documents provient chaque élément.
Un détail change beaucoup de choses : la recherche par proximité de sens retrouve un passage parlant de « résiliation anticipée » même si la question porte sur « rompre le contrat avant terme ». C'est ce qui distingue le RAG d'une recherche par mots-clés.
Une étude d'avocats et de notaires accumule des actes, des correspondances et des décisions sur plusieurs dizaines d'années. Retrouver comment un cas comparable a été traité suppose de savoir qu'il existe, et de se souvenir dans quel dossier.
Avec un index RAG, une question en langage courant — « avons-nous déjà traité une servitude de passage contestée après une division parcellaire ? » — ramène les passages concernés et les références des dossiers. Le juriste garde l'analyse ; ce qu'il gagne, c'est de ne plus dépendre de sa mémoire pour savoir où chercher.
RAG ou fine-tuning ?
Les deux approches sont souvent opposées à tort : elles ne répondent pas à la même question.
| RAG | Fine-tuning | |
|---|---|---|
| Ce que ça change | Ce que le modèle sait au moment de répondre | La façon dont le modèle répond |
| Mise à jour | Immédiate : on réindexe le document | Nécessite un nouvel entraînement |
| Traçabilité | La source peut être citée | Aucune source identifiable |
| Coût initial | Modéré | Élevé |
| Bon usage | Connaissances propres à l'entreprise, qui évoluent | Ton, format, vocabulaire métier constant |
Pour la grande majorité des besoins d'entreprise — répondre à partir de documents internes — le RAG est la réponse adaptée. Le fine-tuning devient pertinent lorsque le problème n'est pas le savoir mais la forme.
Limites et risques
- La qualité dépend entièrement de la recherche. Si les bons passages ne remontent pas, le modèle répond à côté avec le même aplomb que s'il avait raison.
- Les documents périmés. Un index qui contient l'ancienne et la nouvelle version d'une procédure produira des réponses contradictoires. La gouvernance documentaire précède le RAG.
- Les tableaux et les mises en page complexes résistent au découpage : un tableau coupé en deux perd son sens.
- Les droits d'accès. Un index qui ignore qui a le droit de voir quoi peut restituer à un collaborateur un contenu qui ne lui était pas destiné. Les autorisations doivent être portées jusque dans la recherche.
- Les questions globales. « Combien de contrats arrivent à échéance ce trimestre ? » est une question de base de données, pas de RAG. La recherche par similarité ne compte pas.
Quand le RAG est pertinent
Oui quand l'information utile existe déjà sous forme de texte, qu'elle est dispersée, qu'elle évolue, et que les questions posées sont variées et formulées librement.
Non quand l'information est déjà dans une base structurée — une requête est plus fiable et instantanée — ou quand le corpus est assez petit pour être relu directement.
Questions fréquentes
Le RAG entraîne-t-il le modèle sur mes documents ?
Non. Vos documents ne modifient pas le modèle : ils sont retrouvés et placés dans le contexte de la question, le temps d'une réponse.
Le RAG supprime-t-il les réponses fausses ?
Il les réduit en ancrant la réponse dans des sources réelles, et il permet de citer le document d'origine. Il ne les supprime pas : un passage mal retrouvé donne une réponse mal fondée.
Combien de documents faut-il pour que ce soit utile ?
Le RAG devient intéressant dès que le volume dépasse ce qu'une personne peut relire à la demande, ou dès que l'information est dispersée entre plusieurs sources.