Un modèle ne « sait » que ce qu’il a vu à l’entraînement — rien de vos documents internes, de vos contrats, ni de ce qui a changé la semaine dernière. Le RAG (Retrieval-Augmented Generation) corrige ça sans rien ré-entraîner : avant de répondre, le système va chercher les passages pertinents dans vos données et les tend au modèle avec la question.

L’analogie

L’examen à livre ouvert. Au lieu d’exiger que l’étudiant mémorise tout le programme (coûteux, vite périmé, et il inventera ce qu’il a oublié), on le laisse venir avec le manuel. La compétence change : ce n’est plus « tout retenir », c’est trouver vite la bonne page et la citer.

Le principe

flowchart LR
    Q([question]) --> E["encode la question"]
    E --> S["cherche dans la base vectorielle"]
    S --> P["meilleurs passages pertinents"]
    P --> LLM["LLM : question + passages"]
    Q --> LLM
    LLM --> A([réponse sourcée])

• Vos documents sont découpés en morceaux et transformés en embeddings — des nombres qui capturent le sens — stockés dans une base vectorielle.
• Au moment de la question, le système trouve les passages les plus proches par le sens (pas seulement par mots-clés) et les injecte dans le prompt.
• Le modèle répond à partir des passages fournis, idéalement en les citant — c’est le grounding en action.

Un exemple concret

Un assistant RH pour un règlement de 400 pages :

Q : « Combien de jours de congé parental ai-je droit ? »
recherche → 3 passages de « Politique congés v12 » (à jour du mois dernier)
LLM       → « 15 semaines, selon la Politique congés §4.2 [source],
              portées à 19 semaines pour un deuxième enfant [source]. »

Aucun fine-tuning, et mettre à jour la réponse = mettre à jour le document — la question suivante utilise déjà la version 13.

Quand l’utiliser

• Les réponses doivent venir de vos données : docs internes, catalogues produit, contrats, tickets.
• Le contenu change souvent — ré-indexer un document est instantané, ré-entraîner un modèle non.
• Vous avez besoin de citations : « voilà d’où ça vient » crée la confiance et attrape les erreurs.

Quand l’éviter

• Les questions de culture générale que le modèle gère déjà — la recherche n’ajoute que du coût et du bruit.
• Les questions qui exigent de raisonner sur tout le corpus à la fois (« résume les 2 000 tickets ») — c’est un travail de parallélisation.

Le piège classique

Accuser le modèle d’un problème de recherche. Si la recherche renvoie les mauvais passages, le LLM répond avec assurance depuis la mauvaise page — ça ressemble à une hallucination, mais c’est un bug de recherche. Journalisez ce qui a été récupéré, et quand le RAG déraille, regardez les passages avant de toucher au prompt.