RAG en IA : définition, fonctionnement et cas d’usage en entreprise
Le RAG (génération augmentée par récupération) permet à un modèle de langage de répondre à partir de vos documents, en citant ses sources. Voici comment il fonctionne, à quoi il sert en entreprise et ce qu’il faut prévoir pour le mettre en production.
- Le RAG connecte un modèle de langage à votre base documentaire : il recherche d’abord les passages pertinents, puis rédige une réponse appuyée sur eux.
- Il réduit le risque d’hallucination et améliore la traçabilité, sans le supprimer : l’évaluation reste indispensable.
- La qualité d’un RAG se joue surtout sur les données : nettoyage, découpage, métadonnées et droits d’accès.
- Pour intégrer des connaissances qui changent souvent, le RAG est généralement préférable au fine-tuning.
- En production, les droits d’accès par document, l’évaluation continue et le suivi des coûts comptent autant que le choix du modèle.
Le RAG en IA est devenu l’architecture de référence pour construire un assistant qui répond à partir des documents d’une entreprise. Le principe est simple, sa mise en œuvre beaucoup moins : la qualité dépend des données, des droits d’accès et de la manière dont on évalue les réponses. Cet article explique ce qu’est un RAG, comment il fonctionne, où il est utile et ce qu’il faut prévoir pour le faire tourner en production. Il s’inscrit dans notre approche de l’IA générative en entreprise.
Le RAG en IA, c’est quoi ?
Définition : génération augmentée par récupération
RAG est l’acronyme de retrieval-augmented generation, que la Direction générale des entreprises (DGE) traduit par « génération augmentée par récupération ». Dans son guide publié en novembre 2024, elle le définit comme une technique qui consiste à améliorer les réponses des modèles d’IA générative en les alimentant avec des connaissances issues des bases de données de l’entreprise. Autrement dit, le modèle « consulte » vos documents avant de répondre.
Un système RAG se décompose en deux modules :
- un module de récupération, qui cherche dans le corpus les documents ou extraits les plus pertinents pour la question posée ;
- un module de génération, un grand modèle de langage (LLM) qui rédige la réponse à partir de la question et des extraits retrouvés.
Pourquoi un LLM seul ne connaît pas vos documents
Un LLM est entraîné sur un corpus généraliste, figé à une date donnée. Il ignore vos procédures, vos contrats, vos fiches produit et tout ce qui a changé depuis son entraînement. Lui coller des documents entiers dans chaque question est coûteux, limité par la taille du contexte, et ne règle pas la question des droits d’accès. Le RAG apporte au modèle, à chaque question, uniquement les passages utiles.
Le RAG contre les hallucinations
Une hallucination est une réponse plausible mais fausse. En ancrant la réponse dans des extraits identifiés, le RAG réduit ce risque et améliore la traçabilité : la réponse peut citer ses sources, que l’utilisateur peut vérifier. Il ne le supprime pas. Si la recherche ramène un mauvais passage, ou si le modèle extrapole au-delà des extraits, l’erreur reste possible. C’est pourquoi l’évaluation fait partie intégrante d’un projet RAG.
Comment fonctionne un RAG, étape par étape
1. Ingestion et découpage (chunking)
Les documents sont collectés depuis leurs sources (partages de fichiers, SharePoint, Confluence, outils de ticketing, bases de données), convertis en texte, y compris par reconnaissance de caractères pour les PDF scannés, puis nettoyés : doublons, versions obsolètes, en-têtes et pieds de page répétitifs. Le guide de la DGE recommande aussi de retirer les documents qui se contredisent.
Ils sont ensuite découpés en segments (chunks). La méthode et la taille de découpage sont, selon la DGE, un paramètre crucial qui demande un dialogue entre experts techniques et experts métier. Trop petits, les segments perdent leur contexte ; trop grands, ils noient l’information utile. On enrichit chaque segment de métadonnées : document source, section, date, service propriétaire, niveau de confidentialité.
2. Embeddings et base vectorielle
Chaque segment est converti en vecteur (embedding), une suite de nombres qui représente son sens. Les vecteurs sont indexés dans une base vectorielle. Lorsqu’une question arrive, elle est elle-même vectorisée, et la base retrouve les segments les plus proches.
La recherche purement sémantique a ses limites : elle gère mal les références exactes (numéro de contrat, code article). La DGE distingue trois familles de recherche, lexicale, sémantique et hybride, cette dernière combinant les deux. En pratique, la recherche hybride est le bon point de départ pour un corpus d’entreprise.
3. Recherche, reranking et génération avec citations
Les segments les mieux classés sont souvent réordonnés par un modèle de reranking, plus précis mais plus lent, qui ne garde que les plus pertinents. Ils sont ensuite insérés dans le prompt avec la question et des instructions : répondre uniquement à partir des extraits fournis, citer les sources, dire « je ne sais pas » si l’information est absente. La réponse est renvoyée avec les références des documents utilisés.
Exemples de RAG en entreprise
Le guide de la DGE recense plusieurs cas d’usage récurrents. Voici les plus fréquents, avec la base documentaire associée.
Assistant RH et procédures internes
Les salariés interrogent en langage naturel les accords d’entreprise, la convention collective, les procédures et la FAQ interne. L’équipe RH est déchargée des questions répétitives et la réponse renvoie au texte de référence.
Support client et base de connaissances
Le conseiller reçoit une proposition de réponse construite à partir de la base de connaissances, des fiches produit et des tickets résolus. Il la valide ou la corrige avant envoi : l’humain reste dans la boucle.
Juridique, contrats, appels d’offres
Retrouver les clauses de responsabilité de tous les contrats d’un fournisseur, vérifier la cohérence d’une réponse à appel d’offres avec les engagements passés. Attention : la DGE note que le RAG est moins adapté aux requêtes qui nécessitent de parcourir l’ensemble d’un corpus, comme une synthèse comparative de nombreux documents. Ces cas demandent des architectures complémentaires.
Documentation technique et maintenance industrielle
Les techniciens interrogent les manuels des équipements, les nomenclatures et l’historique des interventions. C’est un cas où la qualité des documents sources (scans, schémas, tableaux) pèse lourd : la DGE relève que le RAG est en général plus performant sur du texte que sur des tableaux.
RAG vs fine-tuning vs agents
Trois approches sont souvent confondues. Elles répondent à des besoins différents et se combinent.
| Approche | Ce qu’elle fait | Adaptée quand | Limites |
|---|---|---|---|
| RAG | Fournit au modèle, à chaque question, des extraits de vos documents | Les connaissances changent souvent, la traçabilité des sources compte | Dépend de la qualité de la recherche et des données |
| Fine-tuning | Ajuste les paramètres d’un modèle sur vos exemples | Il faut un style, un format ou un vocabulaire très spécifique | Connaissances figées à l’entraînement, coût de réentraînement, sources non citables |
| Agent IA | Enchaîne des étapes et appelle des outils (API, recherche, calcul) | La tâche demande d’agir, pas seulement de répondre | Demande des garde-fous plus stricts et une supervision |
Quelques variantes à connaître :
- Agentic RAG : un agent décompose une question complexe en sous-questions, interroge une ou plusieurs bases, puis évalue si l’information récupérée suffit. Amazon Bedrock et Azure AI Search proposent désormais ce type de récupération.
- GraphRAG : un graphe de connaissances matérialise les liens entre concepts de l’entreprise. Le guide de la DGE le cite comme option de prétraitement pour les domaines au vocabulaire complexe.
- MCP (Model Context Protocol) : un protocole qui permet à un agent d’appeler des outils et des sources de données de manière standardisée. Une base de connaissances peut ainsi être exposée comme un outil à un agent.
Mettre un RAG en production
Droits d’accès et cloisonnement des documents
C’est le point le plus souvent sous-estimé. Un assistant ne doit jamais renvoyer un extrait qu’un utilisateur n’aurait pas le droit d’ouvrir dans l’outil source. Deux principes :
- filtrer à la récupération selon l’identité de l’utilisateur, pas seulement à l’affichage ;
- hériter des droits des sources plutôt que de les recopier à la main.
Les plateformes managées progressent sur ce point. La documentation d’Amazon Bedrock indique que les bases de connaissances gérées proposent un filtrage des permissions au niveau du document, par listes de contrôle d’accès, au moment de la récupération (sauf pour le connecteur web). Azure AI Search décrit un filtrage de sécurité au niveau du document et l’héritage des permissions Microsoft Entra ID pour certaines sources. Dans les deux cas, vérifiez le comportement exact pour chacune de vos sources.
Évaluer la qualité
Un RAG sans mesure est une boîte noire. Le guide de la DGE cite trois méthodes complémentaires :
- retours des utilisateurs, quantitatifs (pouce levé ou baissé) et qualitatifs ;
- mesures quantitatives : taux d’hallucination, pertinence des documents récupérés, temps de réponse ;
- LLM as a judge : un modèle évalue les réponses générées en les comparant à des réponses de référence.
En pratique, constituez un jeu de questions de référence avec les métiers, mesurez séparément la qualité de la recherche (les bons passages sont-ils retrouvés ?) et celle de la génération (la réponse est-elle fidèle aux passages ?), et rejouez ce jeu à chaque changement de modèle, de découpage ou de prompt. Ces pratiques relèvent du LLMOps, détaillé sur notre page mise en production de l’IA.
Coûts et hébergement
Trois grandes options :
- Amazon Bedrock Knowledge Bases : en base gérée, AWS prend en charge ingestion, indexation, stockage et récupération, avec des connecteurs (Amazon S3, SharePoint, Confluence, Google Drive, OneDrive, robot d’indexation web), des citations dans les réponses et du reranking. En base gérée par le client, vous choisissez le stockage vectoriel (par exemple Amazon OpenSearch Serverless ou Amazon Aurora) et gardez la main sur le pipeline.
- Azure AI Search : recherche hybride, classement sémantique, découpage et vectorisation intégrés, filtrage de sécurité par document. Le service sert aussi de socle à Foundry IQ, la couche de connaissances pour agents de Microsoft Foundry.
- Briques open source déployées sur votre infrastructure (base vectorielle, modèle d’embedding, modèle de génération) : plus de contrôle, plus d’exploitation.
Les postes de coût sont toujours les mêmes : ingestion et embeddings, stockage et index, requêtes de recherche, reranking, et surtout tokens de génération. Les grilles tarifaires changent souvent : estimez sur votre volume réel à partir des pages tarifaires officielles. Pour un ordre de grandeur public, le guide de la DGE cite, à partir d’entretiens avec des professionnels, environ 100 000 euros pour une installation par un intégrateur, et rappelle que les coûts dépendent fortement du volume d’usage. Ces repères datent de 2024.
Souveraineté et RGPD
Si votre base documentaire contient des données personnelles, la CNIL précise que l’organisme qui connecte le système à sa propre base est responsable de ce traitement. Pour les données sensibles, elle juge en général plus sûr un déploiement sur site, et rappelle, pour le cloud, la nécessité d’un contrat de sous-traitance et d’un encadrement des transferts hors de l’Union européenne. La DGE mentionne les services cloud qualifiés SecNumCloud comme alternative pour les besoins de protection élevés. Concrètement : choisissez une région européenne, vérifiez que le fournisseur n’utilise pas vos données pour entraîner ses modèles, pseudonymisez ce qui peut l’être et associez votre DPO. Notre page sécurité et gouvernance cloud détaille ces fondations.
Les erreurs fréquentes
- Indexer tout le partage réseau sans tri : doublons, versions obsolètes et documents contradictoires dégradent les réponses.
- Un découpage unique pour tous les types de documents : un contrat, une FAQ et un manuel technique ne se découpent pas de la même façon.
- Ignorer les droits d’accès au prototype, puis découvrir qu’il faut tout reprendre avant la production.
- Pas de jeu de questions de référence : impossible de savoir si une modification améliore ou dégrade le système.
- Pas de citations : les utilisateurs ne peuvent pas vérifier, la confiance s’effondre au premier faux pas.
- Pas de propriétaire du corpus : sans responsable de la mise à jour des documents, l’assistant vieillit avec eux.
- Pas de suivi des coûts par cas d’usage.
Checklist pour cadrer un projet RAG
- Le cas d’usage repose-t-il sur une base documentaire interne volumineuse et vivante ?
- La traçabilité des sources est-elle nécessaire ?
- Les documents sources ont-ils un propriétaire chargé de leur mise à jour ?
- Les droits d’accès des sources sont-ils connus et récupérables ?
- Les données personnelles ou sensibles sont-elles identifiées, le DPO associé ?
- Un jeu de questions de référence peut-il être rédigé avec les métiers ?
- Le mode d’hébergement (géré, cloud, sur site) est-il compatible avec la sensibilité des données ?
Conclusion : partir d’un corpus maîtrisé
Le RAG est souvent le premier projet d’IA générative sur mesure d’une entreprise, parce qu’il valorise un actif déjà là : ses documents. Sa réussite dépend moins du modèle choisi que du soin apporté aux données, aux droits d’accès et à l’évaluation. Si vous envisagez un assistant IA sur vos documents internes, nous pouvons vous aider à cadrer le cas d’usage, choisir l’architecture sur AWS ou Azure et la mettre en production avec vos équipes. Pour replacer ce projet dans une démarche plus large, lisez notre méthode pour intégrer l’IA dans son entreprise, ou découvrez notre offre IA générative en entreprise.
Questions fréquentes
Qu’est-ce que le RAG en IA, en français ?
RAG signifie retrieval-augmented generation, traduit par génération augmentée par récupération. Le système recherche dans vos documents les extraits utiles à une question, puis les transmet à un modèle de langage qui rédige la réponse en s’appuyant dessus. Le modèle « consulte » ainsi vos données au moment de répondre, sans avoir été réentraîné.
Pouvez-vous donner un exemple de RAG ?
Un assistant RH interne répond à la question « combien de jours de congé pour un mariage ? » en retrouvant l’article concerné de l’accord d’entreprise, puis en formulant la réponse avec un lien vers le document. Si l’accord change, il suffit de mettre à jour le document indexé.
Le RAG supprime-t-il les hallucinations ?
Non. Le guide de la DGE indique qu’il réduit le risque d’hallucinations par rapport à un modèle utilisé seul et améliore la traçabilité. Une recherche qui ramène de mauvais passages ou un modèle qui extrapole restent possibles : il faut évaluer régulièrement les réponses et afficher les sources pour permettre la vérification.
Qu’est-ce qu’une base vectorielle et un embedding ?
Un embedding est une représentation numérique d’un texte qui place les textes de sens proche à proximité les uns des autres. Une base vectorielle stocke ces représentations et retrouve rapidement les plus proches d’une question. Elle est souvent combinée à une recherche par mots-clés, on parle alors de recherche hybride.
Combien coûte une base de connaissances Amazon Bedrock ?
Le coût dépend du mode retenu (base gérée ou base avec votre propre stockage vectoriel), du volume de documents, du modèle d’embedding, du nombre de requêtes et du modèle de génération. Les tarifs évoluent : référez-vous à la page tarifaire officielle d’Amazon Bedrock et faites une estimation sur votre volume réel avant de vous engager.