Guide de construction d'un assistant conversationnel basé sur du RAG

• Ce guide s'appuie sur la connaissance acquise au cours des accompagnements de la DINUM lors de l'investigation et la construction d'assistants conversationnels basés sur une architecture RAG.
• Ce guide vulgarisé s'adresse en priorité aux profils fonctionnels (chef.fe de produit, chef.fe de projets, intrapreneur, référent métier) ou aux profils techniques non expert des sujets IA.

Contexte général

Chaque administration construit, accumule et modifie de la documentation : notes internes, procédures internes, références réglementaires, guides d’usage, manuels techniques, FAQ, supports de formation, contrats, emails structurants, tickets, historiques projets, etc.

Cette connaissance constitue le patrimoine intellectuel de l’organisation, mais elle reste souvent :

• éparpillée
• redondante, contradictoire ou obsolète
• peu consultée, car complexe ou peu accessible
• dépendante de quelques experts sur-sollicités
• insuffisamment utilisée pour la prise de décision

Résultats :

• temps perdu à chercher l’information
• erreurs opérationnelles pourtant évitables
• ralentissement des projets
• coûts de support interne élevés
• perte de savoir lors des départs collaborateurs

La génération augmentée par génération (RAG)

L'IA générative, seule, hallucine, invente, simplifie ou décontextualise. Le système de Génération Augmentée par Récupération (RAG - Retrieval-Augmented-Generation) apporte la solution : retrouver et exploiter les documents réels avant de générer une réponse.

Concrètement, un système RAG est un système qui va d’abord identifier les passages pertinents, en lien avec l’instruction, dans des documents fiables et définis; puis s’en servir pour générer une réponse, plutôt que de répondre uniquement sur la base des données pré-enregistrées. Il combine deux composants :

• un système de recherche/récupération (retrieval) qui trouve les documents pertinents,
• un grand modèle de langage (LLM) qui génère une réponse basée sur ces documents.

Cette combinaison permet de réduire les hallucinations, d’ancrer les réponses dans un corpus maîtrisé et de proposer un service plus fiable.

Grâce à l’accompagnement d’ALLiaNCE auprès de plusieurs équipes produits travaillant sur des architectures RAG, des bonnes pratiques ont pu être identifiées pour initier efficacement la construction d’un assistant conversationnel. Le guide propose un cadre méthodologique et pratique pour concevoir, évaluer et faire évoluer un assistant conversationnel basé sur une architecture RAG. Il se veut volontairement pragmatique et actionnable, afin d’accompagner des équipes en phase d’exploration ou de mise en œuvre.

• L'investigation : un système d'IA n'est pertinent que s'il résout un irritant réel, répété et/ou coûteux
• L'expertise technique : rassembler les bonnes compétences pour mener à bien le projet
• La construction d'un système IA RAG : une approche itérative et collaborative permet de déployer un RAG fiable, performant et aligné sur les attentes des utilisateurs.

  • Prototypage
  • Evaluations par des référents métiers
  • Evaluations automatisées
  • Evaluations continues
• Les enjeux parallèles : la mise en production d'un assistant conversationnel basé sur l'IA s'accompagne d'enjeu d'acculturation et d'enjeux juridiques

  • Les enjeux d'acculturation des usagers
  • Les enjeux juridiques