RAG : connecter l'IA à vos données internes

Le RAG est une architecture qui connecte un modèle de langage à une base documentaire. À chaque question, le système recherche d'abord les passages pertinents dans vos documents, puis les fournit au modèle comme contexte pour formuler sa réponse. Le modèle n'a donc pas besoin de « connaître » votre entreprise : il lit vos sources au moment de répondre, et peut les citer.

Le fine-tuning réentraîne un modèle pour modifier sa façon de répondre : ton, format, vocabulaire métier. Le RAG, lui, apporte de la connaissance factuelle à jour sans toucher au modèle. Pour une base documentaire qui évolue — procédures, tarifs, catalogue — le RAG est presque toujours le bon choix : mettre à jour une information revient à réindexer un document, pas à relancer un entraînement.

Vos documents et leur index vectoriel restent sur l'infrastructure que vous choisissez : vos serveurs, un cloud européen, ou une base PostgreSQL que vous possédez déjà. Seuls les extraits nécessaires à une réponse transitent vers le modèle, sous contrat d'usage professionnel excluant l'entraînement. Une architecture entièrement auto-hébergée, avec un modèle ouvert, reste possible quand la sensibilité l'exige.

Le budget dépend surtout de l'état de vos sources : des documents propres et bien structurés coûtent bien moins cher à indexer qu'un partage réseau accumulé sur dix ans. À cela s'ajoute un coût mensuel d'exploitation — hébergement, base vectorielle, appels au modèle — de l'ordre de quelques centaines d'euros pour une équipe de vingt à cinquante personnes.

PDF, Word, Excel, présentations, pages Notion ou Confluence, tickets de support, emails types, contenus d'un intranet, fiches produits d'un ERP ou d'un PIM. Les documents scannés passent par une reconnaissance de texte préalable. Le vrai critère n'est pas le format mais la fiabilité : une source obsolète indexée produit des réponses fausses, avec l'autorité d'une citation.

Oui, et c'est une exigence de conception, pas une option. Chaque fragment indexé porte les métadonnées de sa source, dont son périmètre d'accès. Le filtrage s'applique au moment de la recherche : un utilisateur ne peut recevoir une réponse issue d'un document qu'il n'a pas le droit de lire. Sans ce cloisonnement, un RAG devient une fuite d'information à l'échelle de l'entreprise.

Oui. Mistral propose des modèles de niveau professionnel opérés en Europe, et plusieurs modèles ouverts s'auto-hébergent sur votre infrastructure ou chez un hébergeur français. Sur un RAG, ce choix est moins pénalisant qu'ailleurs : la qualité de la réponse dépend d'abord de celle des passages récupérés, et cette partie ne dépend pas du modèle. Nous mesurons l'écart sur votre propre jeu d'évaluation avant de trancher, plutôt que de décider sur des classements génériques.

Avec un jeu d'évaluation constitué de questions réelles et de leurs bonnes réponses, rejoué à chaque modification. On suit trois indicateurs : la pertinence des passages récupérés, la fidélité de la réponse à ces passages, et le taux de réponses correctement sourcées. En production s'ajoutent les retours utilisateurs et les questions restées sans réponse.