> For the complete documentation index, see [llms.txt](https://guides.ia.numerique.gouv.fr/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://guides.ia.numerique.gouv.fr/guides/guide-dusage-de-lia-pour-les-agents-publics-de-letat/partie-3-les-5-principes-fondamentaux.md). # Partie 3 : les 5 principes fondamentaux Ce guide propose cinq principes essentiels qui garantissent un usage responsable de l'IA générative pour les agents publics de l'État, conforme au droit et respectueux des valeurs du service public. **Les 5 principes en résumé :** 1. **L'IA vous assiste mais vous restez responsable de vos décisions.** 2. **Les données sensibles ne peuvent être traitées qu'avec les outils autorisés par votre administration.** 3. **Informez vos destinataires internes ou externes lorsque vous utilisez l'IA.** 4. **N'utilisez l'IA que lorsqu'elle est utile, en restant vigilant à ses biais, au respect du droit d'auteur et à son impact environnemental.** 5. **Formez-vous pour maîtriser l'IA et ses enjeux.** *** ### Principe 1 : L'agent public reste responsable ***L'IA est un outil d'assistance, pas un décideur. Vous gardez la responsabilité finale de vos actes et productions.*** #### Vous gardez le contrôle Toute production ou décision doit être validée par vous. L'IA propose, suggère, aide à structurer votre réflexion, mais c'est vous qui décidez. Elle ne peut en aucun cas se substituer à votre jugement professionnel et à votre expertise métier. Même si l’IA a produit le contenu, c’est vous qui le publiez ou le transmettez : vous en demeurez responsable. Cette responsabilité peut, en cas d’erreur, d’imprécision ou de manquement, entraîner des suites selon les règles applicables aux agents publics, notamment celles prévues par le Code général de la fonction publique et par les chartes ministérielles en vigueur. Le non-respect de ces règles peut engager votre responsabilité dans les conditions du droit commun. #### Vous vérifiez avant d'agir Ne lancez pas d'action automatique sans contrôle humain, particulièrement pour des actions critiques qui pourraient impacter des personnes ou des systèmes sensibles : {% columns %} {% column %} **❌ À ne jamais faire :** * Configurer l'IA pour qu'elle envoie automatiquement des courriels à des usagers ou des partenaires extérieurs sans supervision ; * Lui donner accès à des systèmes critiques sans votre validation ; * Publier directement un contenu généré sans relecture ; {% endcolumn %} {% column %} **✅ La bonne pratique :** * Utilisez l'IA pour préparer un brouillon ; * Relisez avec un regard critique ; * Effectuez les modifications nécessaires ; * Validez et envoyez vous-même ; {% endcolumn %} {% endcolumns %} #### Vous évaluez la criticité de l'activité Avant de recourir à l'IA, assurez-vous que la nature de la tâche est compatible avec les limites connues de ces outils : risque d'hallucination, obsolescence des informations, biais, absence de sources fiables. Plus l'activité est sensible (décision individuelle, document juridique, données touchant des personnes), plus la vérification humaine doit être rigoureuse, et plus l'usage de l'IA doit être encadré, voire écarté lorsque la vérification a posteriori n'est pas possible à votre niveau. *** ### Principe 2 : Choisissez le bon outil selon vos données ***Tous les outils d'IA n'offrent pas les mêmes garanties de protection. Adaptez votre choix à la nature de vos données.*** #### La règle simple à retenir Pour vos usages professionnels, utilisez les outils mis à disposition par votre administration. Ils sont conçus pour répondre aux exigences de sécurité du service public. Le recours à un outil commercial (ChatGPT, Claude, Gemini...) doit rester exceptionnel et n'est possible qu'à deux conditions cumulatives : * votre administration l'autorise explicitement ; * les informations traitées pourraient être publiées librement sur Internet. En cas de doute, n'utilisez pas d'outil commercial : tournez-vous vers les outils de votre administration ou sollicitez votre hiérarchie. #### Chaque administration a ses règles Votre ministère peut avoir des règles plus strictes que ce guide général. **Renseignez-vous auprès de votre DSI / DNUM ou de votre hiérarchie** pour connaître : * Quels outils sont autorisés dans votre administration ; * Pour quels types d'usages ; * Quelles données vous pouvez ou ne pouvez pas traiter ; **En cas de doute, trois réflexes :** 1. **Utilisez l'outil de votre administration** plutôt qu'un outil commercial. 2. **Si vous êtes en mesure de le faire simplement, anonymiser les informations** ("Madame X", "un usager", "un agent"...) avant de les transmettre à l'outil d'IA. 3. **Demandez conseil** à votre hiérarchie, votre direction des systèmes d'information (DSI), votre délégué à la protection des données (DPD) ou votre référent cybersécurité. #### Le cadre juridique qui vous protège Votre usage de l'IA doit respecter plusieurs textes de loi qui protègent les personnes et leurs données : * **Le** **règlement général sur la protection des données (RGPD)** impose de protéger les données personnelles et de n'utiliser que les données strictement nécessaires. * **Le règlement européen sur l'IA (RIA)** encadre les usages de l'IA à risque (justice, santé, RH, police...). * **Votre obligation déontologique de secret professionnel** vous interdit de divulguer des informations couvertes par le secret. **Vous n'avez pas besoin de maîtriser tous ces textes en détail.** Suivez simplement la règle pratique : en cas de doute sur une donnée, utilisez l'outil de votre administration ou abstenez-vous. **Au-delà des données personnelles** La vigilance ne porte pas seulement sur les données personnelles au sens du RGPD. Elle vaut aussi pour les **informations professionnelles non publiques** : notes en cours d'arbitrage, projets confidentiels, éléments couverts par le secret des délibérations gouvernementales, données stratégiques ou économiques sensibles. Ces informations ne doivent pas être confiées à un outil commercial grand public. **Pour les données classifiées** ou portant une mention de protection (Diffusion Restreinte, Confidentiel Défense, et plus généralement toute donnée relevant de l'IGI 1300), seuls les outils explicitement homologués par votre administration peuvent être employés. {% hint style="info" icon="thumbtack-angle" %} **Exemples pratiques** **Situation 1 : Résumer un rapport public**\ \&#xNAN;*Vous devez résumer un rapport parlementaire disponible sur le site de l'Assemblée nationale.*\ → ✅ Document public, pas de données personnelles → Vous pouvez utiliser un outil commercial (si autorisé par votre ministère) ou l'outil de votre administration. **Situation 2 : Préparer un compte-rendu de réunion**\ \&#xNAN;*Vous voulez résumer les échanges d'une réunion interne avec les noms des participants et leurs positions.*\ → ❌ Noms + informations internes → Utilisez uniquement l'outil de votre administration **Situation 3 : Analyser et évaluer des candidatures à un poste**\ \&#xNAN;*Vous devez comparer plusieurs candidatures pour un recrutement.*\ → 🚫 Usage à haut risque au sens du règlement européen sur l'IA (RIA, annexe III). Le tri ou l'évaluation de candidatures par un système d'IA fait l'objet d'obligations renforcées : analyse d'impact, supervision humaine, transparence vis-à-vis des candidats. Avant tout usage, consultez votre délégué à la protection des données (DPD) et votre service RH. En l'absence d'un cadre formellement validé dans votre administration, abstenez-vous. {% endhint %} *** ### Principe 3 : Soyez transparent ***Lorsque l'intelligence artificielle joue un rôle substantiel dans la production d'un contenu, dans une analyse ou dans la préparation d'une décision, son usage doit pouvoir être explicité à vos interlocuteurs.*** #### Informer vos destinataires La transparence permet à vos interlocuteurs de mieux comprendre le contenu, de garder un œil critique et de savoir qu'une relecture humaine a été effectuée. Cette exigence de transparence doit être appréciée de manière proportionnée. Une assistance ponctuelle à la reformulation n'appelle pas les mêmes modalités qu'un rôle substantiel dans un document, un service automatisé ou une décision administrative. **Cette transparence est obligatoire :** * Par le RGPD (art. 22) : les décisions produisant des effets juridiques lorsqu'elles reposent exclusivement sur le recours à un traitement automatisé sont strictement encadrées et doivent donner lieu à une information appropriée des personnes concernées. * Par le code des relations entre le public et l'administration (art. L. 311-3-1) : une décision administrative individuelle prise sur le fondement d'un algorithme doit comporter une mention explicite. #### Qu'entend-on par « rôle substantiel » ? Deux cas de figure permettent d'apprécier le degré d'implication de l'IA : | **Usage** | **Mention** | | --------------------------------------------------------------------------------------- | ------------------------------------------------------------------------------ | | Reformulation, correction, mise en forme d'un texte que vous avez rédigé | Aucune mention requise | | Production de contenu par l'IA (analyse, note, courrier, synthèse), même ajusté ensuite | Mention obligatoire : *« Généré partiellement par intelligence artificielle »* | #### Comment mentionner l'usage de l'IA **Pour un document interne** (note, compte-rendu, présentation) : * **Mention orale :** « J'ai utilisé l'IA pour préparer cette première version. » * **Mention écrite en pied de page :** « Document rédigé avec l'assistance d'un outil d'IA générative et vérifié par \[votre nom] » **Pour un document externe** (courrier à un usager, publication, rapport officiel) : * **Mention formelle :** « Contenu partiellement généré par une IA et vérifié par un agent » * Cette formule est recommandée par le système de design de l'État. **Si un usager interagit directement avec l'IA** (agent conversationnel, assistant virtuel) : * Il doit le savoir. * Exemple : « Bonjour, je suis un assistant virtuel. Je peux répondre à vos questions sur nos services. Pour toute demande complexe, un agent vous recontactera. » #### Traçabilité des décisions Si l'IA vous a aidé dans une décision administrative importante (attribution d'une aide, refus d'un dossier, évaluation d'un agent), conservez une trace : **Ce qu'il faut documenter :** * Quel outil d'IA a été utilisé. * Quel était le résultat proposé par l'IA. * Quelle décision a finalement été prise. * Sur la base de quels critères et motivations. **Pourquoi c'est important :** * En cas de contestation, vous devez pouvoir expliquer votre décision. * Cela garantit l'équité et la transparence du processus. * C'est une obligation légale pour les décisions à fort impact. **📌 Exemples de mentions** | **Situation** | **Mention appropriée** | | ------------------------------------------------ | ----------------------------------------------------------------------------------------------------------------------------------------- | | **Note interne pour votre direction** | En pied de page : "Première version générée avec l'Assistant IA interministériel, relue et complétée par \[nom]" | | **Rapport officiel destiné au ministre** | En introduction ou pied de page : "Contenu partiellement généré par une IA et vérifié par les services" | | **Courriel à un usager** | Pas de mention nécessaire si l'IA a seulement aidé à la reformulation. Mention obligatoire si l'IA a contribué à la décision. | | **Assistant conversationnel sur un site public** | Message d'accueil : "Je suis un assistant virtuel. Mes réponses sont générées automatiquement. Un agent peut vous aider si besoin." | | **Présentation en réunion** | À l'oral en début de réunion : "Pour préparer cette présentation, j'ai utilisé l'IA pour structurer mes idées et créer certains visuels." | *** ### Principe 4 : Adoptez un usage éthique et sobre ***L'IA doit être utilisée de manière responsable, en limitant son impact environnemental et en respectant le droit et l'éthique.*** #### Limiter l'impact environnemental (IA frugale) L'IA générative consomme de l'énergie et de l'eau pour faire tourner et refroidir les serveurs. À titre de comparaison, une requête texte sur un assistant conversationnel équivaut à environ une à dix recherches Google ; la génération d'une image consomme environ 60 fois plus, et les modèles de raisonnement plusieurs dizaines de fois plus. **Avant d'utiliser l'IA, demandez-vous :** * Est-ce que j'en ai réellement besoin ? * Est-ce que je peux obtenir un résultat satisfaisant autrement ? * Est-ce que le recours à l'IA est proportionné au gain attendu ? **Comment rationaliser l'usage :** * **Minimisez le nombre de prompts** : rédigez un prompt clair dès le départ plutôt que d'enchaîner 10 tentatives * **Évitez le recours automatique** : ne sollicitez pas l'IA par réflexe pour des tâches simples * **Privilégiez les outils sobres** : certaines IA sont plus économes en ressources (renseignez-vous auprès de votre DSI) **❌ Usage excessif :** Utiliser l'IA pour reformuler un courriel de 3 lignes **✅ Usage pertinent :** Utiliser l'IA pour résumer un rapport de 100 pages {% hint style="info" icon="thumbtack-angle" %} **Exemple concret**\ \&#xNAN;*Vous devez traduire un courriel de 5 lignes en anglais.*\ → ❌ N'utilisez pas l'IA : utilisez un traducteur en ligne classique (moins énergivore) ou traduisez vous-même.\ → ✅ Réservez l'IA pour des traductions longues et complexes. {% endhint %} #### Respecter le droit d'auteur L'IA apprend en analysant des millions de documents, y compris des contenus protégés. Elle peut reproduire involontairement du contenu sous droit d'auteur. **Pour une diffusion externe, vérifiez que le contenu n'est pas copié :** * Relisez attentivement les textes générés * Faites des recherches pour identifier d'éventuelles sources et citez-les * En cas de doute, reformulez ou créez vous-même {% columns %} {% column %} **❌ Ce que vous ne devez pas faire :** * "Génère une image dans le style de Pixar" (marque et style protégés) * "Écris un texte qui ressemble à un article du Monde" (style éditorial protégé) * Utiliser une image générée par IA pour une communication officielle sans vérification {% endcolumn %} {% column %} **✅ Ce que vous pouvez faire :** * "Génère une illustration moderne représentant un bureau" (description générique sans référence à une œuvre protégée) * "Reformule cette note en t'appuyant sur les éléments que je te transmets" (l'IA travaille sur votre contenu original, pas sur des œuvres protégées) * Vérifier l'origine des contenus avant diffusion externe {% endcolumn %} {% endcolumns %} {% hint style="info" icon="thumbtack-angle" %} **Exemple concret**\ \&#xNAN;*Vous préparez une affiche pour une campagne interne et demandez : "Génère une affiche dans le style de Pixar".*\ → ❌ Risque de violation du droit d'auteur (œuvre et style protégés).\ → ✅ Alternative : "Génère une affiche simple et poétique avec des étoiles et des tons pastels." {% endhint %} #### Rester vigilant sur les biais L'IA reproduit ce qu'elle a appris. Si elle a été entraînée sur des données biaisées, elle peut reproduire ces biais : stéréotypes de genre, préjugés culturels, surreprésentation de certains points de vue... **Exemples de biais à surveiller :** * **Stéréotypes de genre** : associer automatiquement certains métiers à un sexe (infirmière = femme, ingénieur = homme) * **Biais culturels** : privilégier une perspective occidentale ou urbaine * **Biais socio-économiques** : faire des suppositions sur les revenus ou le niveau d'éducation **Comment s'en prémunir :** * **Gardez un œil critique** : relisez attentivement et interrogez-vous sur les présupposés * **Vérifiez l'équité** : le contenu traite-t-il toutes les catégories de personnes de manière égale ? * **Corrigez si nécessaire** : n'hésitez pas à reformuler pour neutraliser les biais * **Testez avec différents angles** : posez la même question de plusieurs manières pour détecter des incohérences {% hint style="info" icon="thumbtack-angle" %} **Exemple concret**\ \&#xNAN;*Vous demandez à l'IA de rédiger une offre d'emploi pour un poste d'assistant(e). L'IA utilise systématiquement le féminin et suggère des compétences relationnelles plutôt que techniques.*\ → ⚠️ Biais de genre détecté : l'IA associe ce poste aux femmes et aux savoir-être plutôt qu'aux compétences techniques.\ → ✅ Corrigez : reformulez l'offre de manière neutre et équilibrée, dans le respect des règles applicables à la rédaction administrative (circulaire du Premier ministre du 21 novembre 2017). {% endhint %} *** ### Principe 5 : Développez vos compétences **Pour utiliser l'IA de façon responsable, vous devez comprendre comment elle fonctionne, ses limites et ses risques.** #### Comprendre le fonctionnement de l'IA L'IA générative n'est pas magique : mieux vous la comprenez, mieux vous l'utilisez. Gardez en tête ces éléments essentiels : **L'IA peut produire des erreurs convaincantes** * Elle génère des réponses probables statistiquement, pas nécessairement vraies * Elle peut inventer des références, des données, des textes de loi qui n'existent pas et ne peut pas citer précisément ses sources (sauf dans le cas d'une recherche dans un corpus documentaire ou d'une recherche Internet) * Ses connaissances sont figées à une date donnée, elle ne peut actualiser ses connaissances que si l'utilisateur lui donne du contexte ou autorise la recherche sur Internet **Elle ne comprend pas vraiment ce qu'elle dit** * Elle fonctionne par probabilités, pas par compréhension du monde réel * Elle peut être cohérente sans être pertinente **Elle ne remplace pas votre expertise métier** * Vous restez l'expert de votre domaine * L'IA est un assistant, pas un substitut à votre jugement #### Se former en continu sur l'IA et sur votre métier L'IA évolue rapidement. Il est important de mettre à jour régulièrement vos connaissances pour en faire un usage éclairé et responsable. **Pourquoi se former ?** * Mieux identifier les cas d'usage pertinents * Éviter les pièges et les erreurs courantes * Comprendre les enjeux éthiques et juridiques * Échanger avec d'autres agents sur leurs pratiques #### Ressources disponibles **Campus du numérique public et Mentor** Les agents publics peuvent s’appuyer sur les ressources proposées par le Campus du numérique public et sur les formations disponibles sur Mentor pour renforcer leur compréhension de l’intelligence artificielle, de ses usages et de ses limites. Ces ressources permettent notamment de mieux comprendre le fonctionnement de l’IA générative, d’identifier les cas d’usage pertinents, d’adopter les bonnes pratiques de formulation des demandes et de maîtriser les principaux points de vigilance liés à la sécurité, aux données, aux biais et à l’impact environnemental. Exemples de formations disponibles sur Mentor : * Objectif IA : initiez-vous à l’intelligence artificielle ; * Découvrir les IA génératives ; * Kit atelier prompting ; * 3 minutes pour comprendre : intelligence artificielle et données. Une liste plus complète des formations et ressources disponibles est proposée dans la section « Pour aller plus loin ». **Formations ministérielles** Renseignez-vous auprès de votre service formation ou RH pour connaître les formations proposées dans votre administration. **Chartes et guides sectoriels** Consultez les chartes spécifiques à votre ministère, administration ou métier, notamment dans la section « Pour aller plus loin ». **Communautés de pratiques** Échangez avec d'autres agents utilisateurs de l'IA dans votre administration. Certains ministères mettent en place des groupes de travail ou des espaces d'échange, par exemple sur Tchap ou sur des forums internes. --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://guides.ia.numerique.gouv.fr/guides/guide-dusage-de-lia-pour-les-agents-publics-de-letat/partie-3-les-5-principes-fondamentaux.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.