C'est la rentrée. Lancez votre app — devis gratuit sous 24 h au 07 56 84 91 14

Accueil/Blog/IA

RAG : construire un assistant qui répond vraiment sur vos documents

Pourquoi la plupart des assistants RAG échouent, et les six décisions techniques qui font la différence entre un gadget et un outil quotidien.

Faisceaux lumineux extrayant des fragments précis d’un volume de données

À retenir

  • Le RAG échoue presque toujours à la récupération, jamais à la génération.
  • Le découpage des documents est la décision qui a le plus d’impact sur la qualité des réponses.
  • Combinez recherche sémantique et recherche par mots-clés : seule, aucune des deux ne suffit.
  • Citez toujours les sources : c’est ce qui rend l’outil utilisable dans un cadre professionnel.
  • Construisez votre jeu de questions de référence avant d’écrire la première ligne de code.

Brancher un modèle de langage sur un dossier de PDF prend une journée. La démonstration fonctionne, tout le monde est impressionné. Trois semaines plus tard, personne ne l’utilise, parce qu’une réponse sur trois est fausse et qu’on ne sait jamais laquelle.

Le problème n’est presque jamais le modèle. Il est dans ce qu’on lui donne à lire.

Comment ça marche réellement

Un assistant RAG enchaîne quatre étapes à chaque question :

  1. Découper les documents en passages, une fois pour toutes, en amont.
  2. Indexer ces passages sous une forme cherchable.
  3. Récupérer les passages pertinents pour la question posée.
  4. Générer la réponse en s’appuyant uniquement sur ces passages.

Le modèle n’intervient qu’à la dernière étape. Si la récupération ramène les mauvais passages, aucun modèle au monde ne rattrapera la réponse. C’est pourquoi la quasi-totalité de l’effort doit porter sur les étapes 1 à 3.

Le diagnostic en trente secondes : quand une réponse est fausse, regardez les passages qui ont été récupérés. Dans plus de 80 % des cas, l’information demandée n’y était pas. Le modèle n’a pas menti : il a répondu avec ce qu’on lui a donné.

Les six décisions qui font la qualité

1. Le découpage des documents

C’est la décision la plus importante et la plus négligée. Découper tous les 500 caractères est simple et produit des résultats médiocres : les phrases sont coupées au milieu, le contexte disparaît, un tableau se retrouve éclaté en quatre morceaux illisibles.

Ce qui marche : découper selon la structure du document — par section, par article, par question de FAQ — avec un chevauchement de quelques lignes entre passages voisins, et en conservant en en-tête le titre de la section d’origine. Un passage doit rester compréhensible isolément.

2. Les métadonnées

Chaque passage doit porter sa provenance : document, version, date, service émetteur, niveau de confidentialité. Elles servent à filtrer avant de chercher — « uniquement les procédures en vigueur », « uniquement les documents accessibles à ce service » — et à afficher les sources, ce qui rend l’outil crédible.

3. La recherche hybride

La recherche sémantique retrouve les formulations différentes mais rate les références exactes : un numéro d’article, une référence produit, un sigle interne. La recherche par mots-clés fait l’inverse.

Utilisez les deux et fusionnez les résultats. Sur nos projets, passer d’une recherche purement sémantique à une recherche hybride améliore la pertinence de 20 à 35 %. C’est le meilleur rapport effort/résultat de toute la chaîne.

4. Le réordonnancement

Récupérez large — vingt à trente passages — puis faites reclasser ces candidats par un modèle de réordonnancement qui juge la pertinence réelle de chacun par rapport à la question. Ne gardez que les cinq meilleurs pour la génération. Coût négligeable, gain important.

5. Les consignes de génération

Trois phrases dans la consigne système changent tout :

  • réponds uniquement à partir des passages fournis ;
  • cite systématiquement le document et la section de chaque affirmation ;
  • si les passages ne contiennent pas la réponse, dis-le explicitement plutôt que de deviner.

6. Le jeu de questions de référence

Rédigez cinquante questions réelles, avec leurs bonnes réponses, avant de commencer. Elles viennent de vos utilisateurs, pas de votre imagination. Ce jeu devient votre seul moyen objectif de savoir si une modification améliore ou dégrade le système.

Sans lui, chaque évolution est une opinion.

+20–35 %De pertinence gagnée en passant à une recherche hybride
≈ 80 %Des mauvaises réponses causées par une récupération ratée
50Questions de référence à écrire avant de développer

Les erreurs que nous voyons le plus

Ingérer tout le partage de fichiers. Vingt ans d’archives, quatre versions du même document, des brouillons jamais validés. L’assistant répond alors correctement… à partir d’une procédure abrogée en 2019. Commencez par un corpus restreint, à jour et dont quelqu’un est responsable.

Ignorer les droits d’accès. Si le corpus contient des documents que tout le monde ne doit pas voir, le filtrage par droits doit intervenir avant la recherche, jamais après. C’est un point à traiter dès la conception, pas en fin de projet.

Confondre la démonstration et le produit. Une démonstration montre que la technologie fonctionne. Un produit gère les documents mal numérisés, les tableaux, les questions ambiguës, les réponses introuvables et le passage à l’échelle. C’est là que se trouvent les cinq sixièmes du travail.

Un assistant documentaire n’est pas jugé sur ses bonnes réponses. Il est jugé sur ce qu’il fait quand il ne sait pas. Un outil qui dit « je ne trouve pas cette information dans les documents » est utilisable ; un outil qui invente ne l’est pas.

Un calendrier réaliste

PériodeTravailRésultat
Semaine 1Sélection du corpus, rédaction du jeu de questionsPérimètre documentaire arrêté
Semaines 2–3Découpage, indexation, recherche hybridePremière version interrogeable
Semaines 4–5Réordonnancement, consignes, citations, mesureVersion évaluée sur le jeu de référence
Semaines 6–8Utilisation encadrée, corrections, droits d’accèsVersion déployée à une équipe

Huit semaines, un corpus maîtrisé, un indicateur de qualité mesuré. C’est ce qui distingue un assistant utilisé tous les jours d’une démonstration oubliée.

Si vous vous demandez quel corpus attaquer en premier, notre article sur le choix d’un premier cas d’usage IA donne les trois filtres que nous appliquons.

55 · agency

Studio produit, design & ingénierie — Paris · Nice · Lyon

Depuis 2013, 55 · agency conçoit et développe des applications mobiles, des sites web et des produits IA pour des startups, des PME et des grands comptes, depuis Paris, Nice et Lyon.

FAQ

Questions fréquentes

Qu’est-ce que le RAG exactement ?

RAG signifie génération augmentée par récupération. Au lieu de demander au modèle ce qu’il sait, on récupère d’abord les passages pertinents dans vos propres documents, puis on demande au modèle de répondre uniquement à partir de ces passages. Le modèle devient un moteur de rédaction, pas une source de connaissance.

Faut-il ré-entraîner un modèle pour qu’il connaisse mes documents ?

Non, et c’est même généralement contre-productif. Le RAG donne de meilleurs résultats, coûte bien moins cher, se met à jour instantanément quand un document change, et permet de citer les sources — ce que l’entraînement ne permet pas.

Combien coûte un assistant RAG en entreprise ?

Entre 15 000 et 45 000 € pour une première version en production sur un corpus maîtrisé, plus quelques centaines d’euros par mois de coûts d’API et d’hébergement. Le budget dépend surtout de l’état de vos documents : un corpus propre et structuré divise le coût par deux.

Comment éviter que l’assistant invente des réponses ?

Trois mesures cumulées : n’autoriser la réponse qu’à partir des passages récupérés, exiger la citation systématique des sources, et instruire explicitement le modèle de répondre qu’il ne sait pas quand les passages ne contiennent pas l’information. Le taux d’invention devient alors marginal.

Prêt à démarrer ?

Parlons de votre prochain projet.

Échange de 30 minutes, gratuit et sans engagement. Vous repartez avec une vision claire et chiffrée de votre projet.