À retenir
- Le RAG échoue presque toujours à la récupération, jamais à la génération.
- Le découpage des documents est la décision qui a le plus d’impact sur la qualité des réponses.
- Combinez recherche sémantique et recherche par mots-clés : seule, aucune des deux ne suffit.
- Citez toujours les sources : c’est ce qui rend l’outil utilisable dans un cadre professionnel.
- Construisez votre jeu de questions de référence avant d’écrire la première ligne de code.
Brancher un modèle de langage sur un dossier de PDF prend une journée. La démonstration fonctionne, tout le monde est impressionné. Trois semaines plus tard, personne ne l’utilise, parce qu’une réponse sur trois est fausse et qu’on ne sait jamais laquelle.
Le problème n’est presque jamais le modèle. Il est dans ce qu’on lui donne à lire.
Comment ça marche réellement
Un assistant RAG enchaîne quatre étapes à chaque question :
- Découper les documents en passages, une fois pour toutes, en amont.
- Indexer ces passages sous une forme cherchable.
- Récupérer les passages pertinents pour la question posée.
- Générer la réponse en s’appuyant uniquement sur ces passages.
Le modèle n’intervient qu’à la dernière étape. Si la récupération ramène les mauvais passages, aucun modèle au monde ne rattrapera la réponse. C’est pourquoi la quasi-totalité de l’effort doit porter sur les étapes 1 à 3.
Le diagnostic en trente secondes : quand une réponse est fausse, regardez les passages qui ont été récupérés. Dans plus de 80 % des cas, l’information demandée n’y était pas. Le modèle n’a pas menti : il a répondu avec ce qu’on lui a donné.
Les six décisions qui font la qualité
1. Le découpage des documents
C’est la décision la plus importante et la plus négligée. Découper tous les 500 caractères est simple et produit des résultats médiocres : les phrases sont coupées au milieu, le contexte disparaît, un tableau se retrouve éclaté en quatre morceaux illisibles.
Ce qui marche : découper selon la structure du document — par section, par article, par question de FAQ — avec un chevauchement de quelques lignes entre passages voisins, et en conservant en en-tête le titre de la section d’origine. Un passage doit rester compréhensible isolément.
2. Les métadonnées
Chaque passage doit porter sa provenance : document, version, date, service émetteur, niveau de confidentialité. Elles servent à filtrer avant de chercher — « uniquement les procédures en vigueur », « uniquement les documents accessibles à ce service » — et à afficher les sources, ce qui rend l’outil crédible.
3. La recherche hybride
La recherche sémantique retrouve les formulations différentes mais rate les références exactes : un numéro d’article, une référence produit, un sigle interne. La recherche par mots-clés fait l’inverse.
Utilisez les deux et fusionnez les résultats. Sur nos projets, passer d’une recherche purement sémantique à une recherche hybride améliore la pertinence de 20 à 35 %. C’est le meilleur rapport effort/résultat de toute la chaîne.
4. Le réordonnancement
Récupérez large — vingt à trente passages — puis faites reclasser ces candidats par un modèle de réordonnancement qui juge la pertinence réelle de chacun par rapport à la question. Ne gardez que les cinq meilleurs pour la génération. Coût négligeable, gain important.
5. Les consignes de génération
Trois phrases dans la consigne système changent tout :
- réponds uniquement à partir des passages fournis ;
- cite systématiquement le document et la section de chaque affirmation ;
- si les passages ne contiennent pas la réponse, dis-le explicitement plutôt que de deviner.
6. Le jeu de questions de référence
Rédigez cinquante questions réelles, avec leurs bonnes réponses, avant de commencer. Elles viennent de vos utilisateurs, pas de votre imagination. Ce jeu devient votre seul moyen objectif de savoir si une modification améliore ou dégrade le système.
Sans lui, chaque évolution est une opinion.
Les erreurs que nous voyons le plus
Ingérer tout le partage de fichiers. Vingt ans d’archives, quatre versions du même document, des brouillons jamais validés. L’assistant répond alors correctement… à partir d’une procédure abrogée en 2019. Commencez par un corpus restreint, à jour et dont quelqu’un est responsable.
Ignorer les droits d’accès. Si le corpus contient des documents que tout le monde ne doit pas voir, le filtrage par droits doit intervenir avant la recherche, jamais après. C’est un point à traiter dès la conception, pas en fin de projet.
Confondre la démonstration et le produit. Une démonstration montre que la technologie fonctionne. Un produit gère les documents mal numérisés, les tableaux, les questions ambiguës, les réponses introuvables et le passage à l’échelle. C’est là que se trouvent les cinq sixièmes du travail.
Un assistant documentaire n’est pas jugé sur ses bonnes réponses. Il est jugé sur ce qu’il fait quand il ne sait pas. Un outil qui dit « je ne trouve pas cette information dans les documents » est utilisable ; un outil qui invente ne l’est pas.
Un calendrier réaliste
| Période | Travail | Résultat |
|---|---|---|
| Semaine 1 | Sélection du corpus, rédaction du jeu de questions | Périmètre documentaire arrêté |
| Semaines 2–3 | Découpage, indexation, recherche hybride | Première version interrogeable |
| Semaines 4–5 | Réordonnancement, consignes, citations, mesure | Version évaluée sur le jeu de référence |
| Semaines 6–8 | Utilisation encadrée, corrections, droits d’accès | Version déployée à une équipe |
Huit semaines, un corpus maîtrisé, un indicateur de qualité mesuré. C’est ce qui distingue un assistant utilisé tous les jours d’une démonstration oubliée.
Si vous vous demandez quel corpus attaquer en premier, notre article sur le choix d’un premier cas d’usage IA donne les trois filtres que nous appliquons.



