Et si une IA générative pouvait répondre en s'appuyant sur dix ans d'archives d'un média, sans jamais quitter votre ordinateur ? C'est l'expérience menée par Next, qui a donné en pâture à un petit modèle local plus de 15 000 de ses propres articles. La méthode porte un nom : le RAG, pour Retrieval-Augmented Generation. Derrière l'acronyme, une idée simple et puissante pour rendre les IA plus fiables — et un excellent prétexte pour comprendre comment elles fonctionnent vraiment.

Le problème que le RAG cherche à résoudre

Un modèle de langage comme ceux qui font tourner les chatbots a une limite bien connue : il ne « sait » que ce qu'il a vu pendant son entraînement. Posez-lui une question sur un sujet trop récent, trop pointu ou propre à votre organisation, et il fera ce qu'il sait faire de mieux quand il ignore la réponse : inventer. C'est le phénomène des « hallucinations », ces affirmations formulées avec aplomb mais factuellement fausses.

Deux solutions existent pour ancrer un modèle dans des connaissances précises. La première, le fine-tuning, consiste à le réentraîner sur vos données : efficace, mais coûteux, lent et figé dans le temps. La seconde, c'est le RAG. Plutôt que de modifier le modèle, on lui glisse les bonnes informations au moment où on lui pose la question. Comme l'explique IBM, cette approche « ancre la génération dans des preuves récupérées » et réduit les hallucinations « sans nécessiter de réentraînement du modèle ».

L'image la plus parlante est celle de l'examen. Un modèle classique répond de mémoire. Un modèle équipé de RAG passe un examen « à livre ouvert » : on lui autorise à consulter, pendant l'épreuve, les pages les plus pertinentes d'un corpus de référence. Encore faut-il savoir retrouver les bonnes pages au bon moment — c'est tout l'enjeu.

Comment fonctionne le RAG, étape par étape

Le mécanisme se déroule en trois grandes phases : l'indexation, la récupération, puis la génération.

L'indexation se fait une fois pour toutes, en amont. On prend l'ensemble du corpus — ici les 15 000 articles de Next — et on le découpe en petits morceaux, les fameux chunks. Chaque morceau est ensuite transformé en une suite de nombres, un « vecteur », par un modèle spécialisé appelé modèle d'embedding. Ces vecteurs ne sont pas anodins : ils encodent le sens du texte. Deux passages qui parlent de la même chose, même avec des mots différents, se retrouvent proches l'un de l'autre dans cet espace mathématique. Chez NVIDIA comme chez Google Cloud, on décrit ces vecteurs comme des représentations en haute dimension — couramment de plusieurs centaines à plusieurs milliers de dimensions. Tous sont stockés dans une base vectorielle, optimisée pour une seule chose : retrouver très vite les vecteurs les plus proches d'un vecteur donné.

La récupération intervient quand vous posez une question. Votre prompt est lui aussi transformé en vecteur, par le même modèle d'embedding. La base vectorielle effectue alors une recherche par similarité — techniquement une recherche des « plus proches voisins » — pour identifier les morceaux d'articles dont le sens colle le mieux à votre question. Seuls les meilleurs candidats sont retenus.

La génération, enfin, consiste à fabriquer un prompt enrichi : on assemble votre question d'origine et les passages récupérés, puis on transmet le tout au modèle de langage. Celui-ci rédige sa réponse non plus seulement à partir de sa mémoire interne, mais en s'appuyant sur les extraits qu'on lui a fournis. C'est cette injection de contexte que les spécialistes appellent l'augmentation du prompt.

Ce que l'expérience de Next révèle concrètement

L'intérêt de la démonstration de Next, c'est qu'elle ramène tout cela à une cuisine très accessible. Le matériel ? Un simple MacBook Pro à processeur M2 doté de 16 Go de mémoire partagée. Pas de serveur, pas de carte graphique à plusieurs milliers d'euros, pas de cloud.

Côté logiciels, deux briques open source suffisent. Ollama, un outil sous licence MIT qui simplifie radicalement l'exécution de modèles en local : il s'installe comme n'importe quelle application, et une commande aussi simple que ollama run mistral suffit à télécharger puis lancer le modèle. Et Mistral 7B, un modèle de langage français de 7,3 milliards de paramètres distribué sous licence Apache 2.0 — assez compact pour tourner confortablement sur la machine tout en laissant de la marge pour d'autres applications.

Le détail qui éclaire la mécanique du RAG, c'est le rôle d'un troisième modèle, distinct de Mistral : nomic-embed-text. C'est lui le modèle d'embedding, chargé de convertir les textes en vecteurs. Cette séparation des rôles est instructive : le modèle qui comprend et compare les textes pour la recherche n'est pas le même que celui qui rédige la réponse finale. Phase d'indexation des 15 000 articles : environ trois heures sur le MacBook M2. Une fois ce travail fait, il n'est plus à refaire.

À l'usage, le déroulé est limpide. Le prompt de l'utilisateur est vectorisé, comparé aux vecteurs des articles, et les dix meilleurs morceaux sont extraits puis transmis à Mistral avec la question initiale. Le modèle compose alors sa réponse en s'appuyant sur ces extraits maison. Et tout cela, point essentiel, sans la moindre connexion à Internet : aucune donnée ne quitte l'ordinateur.

Les vrais atouts : ancrage, confidentialité, autonomie

Le premier bénéfice est l'ancrage factuel. Plutôt que de puiser dans un savoir généraliste dilué, le modèle répond à partir d'un corpus précis et vérifiable. Pour un média, une entreprise ou une administration disposant d'archives propres, c'est la promesse de réponses spécialisées sans réentraîner quoi que ce soit — et avec la possibilité d'ajouter de nouveaux documents au fil de l'eau.

Le second, peut-être le plus marquant ici, est la confidentialité. Tout s'exécute en local. Aucun contenu sensible — articles non publiés, documents internes, données personnelles — n'est envoyé vers les serveurs d'un prestataire. À l'heure où l'IA locale gagne du terrain, des petits modèles de diffusion d'image tournant directement sur l'appareil aux déploiements de Mistral en entreprise, l'expérience de Next montre qu'on peut bâtir un assistant utile sans dépendre du cloud ni d'un abonnement mensuel.

Vient enfin l'autonomie : un investissement matériel unique, pas de coût d'API à l'usage, et la liberté de tester différents modèles à volonté.

Les limites qu'il ne faut pas oublier

Le RAG n'est pas une formule magique, et Next ne le cache pas : Mistral reste un « modèle statistique » qui produit parfois des réponses inexactes, et la qualité dépend beaucoup du soin apporté à la formulation des prompts.

Deux fragilités structurelles méritent d'être soulignées. La première tient à la qualité de la récupération. Si la recherche par similarité remonte des passages hors-sujet ou si les morceaux les plus pertinents passent à côté, la réponse se dégrade. Une revue scientifique sur le sujet rappelle que les hallucinations restent « inévitables » lorsque le contexte fourni est insuffisant ou que les meilleurs documents manquent à l'appel. Autrement dit : un mauvais retrieval condamne la génération, aussi bon soit le modèle.

La seconde fragilité concerne le découpage en chunks. Des morceaux trop petits peuvent amputer une information de son contexte et rendre certaines questions sans réponse ; trop gros, ils noient le passage utile dans du bruit. Le choix de la granularité, du modèle d'embedding et du nombre de morceaux récupérés influe directement sur la pertinence finale. C'est un travail d'ajustement, pas un réglage universel.

Enfin, la taille du modèle compte. Un 7B local est remarquablement efficace pour sa catégorie, mais il ne raisonne pas comme les modèles géants hébergés dans des centres de données. Le RAG compense en partie ce déficit en lui apportant les bons faits ; il ne le transforme pas en oracle.

Pourquoi cet exemple est précieux

L'intérêt de la démonstration de Next dépasse le résultat technique. Elle rend tangible un concept souvent présenté comme abstrait, et elle prouve qu'il est désormais à la portée d'un particulier curieux équipé d'un ordinateur portable récent. Comprendre le RAG, c'est comprendre l'une des briques les plus déployées de l'IA actuelle — celle qui se cache derrière la plupart des assistants « qui connaissent vos documents ». Et le constat est rassurant autant que stimulant : avec quelques outils open source et un peu de méthode, on peut faire dialoguer une IA générative avec dix ans de mémoire, chez soi, sans rien céder de sa vie privée.

Source principale : Next — « IA générative : le RAG par l'exemple, avec 15 000 actus Next et Mistral 7B ». Compléments techniques : IBM, Google Cloud, Ollama, MDPI — Hallucination Mitigation for RAG.