Utiliser l'IA générative dans l'administration
Bonnes pratiques d’utilisation des solutions d'IA générative
Ces bonnes pratiques s’appuient largement sur la charte interne du ministère de la Culture pour un usage responsable de l’IA générative.
Examinez d’un œil critique les propositions qui vous sont faites et vérifiez toujours l’exactitude des réponses : l’IA générative peut produire des informations inexactes ou biaisées et le vraisemblable n’est pas le véritable. Il s’agit ici d’adopter la même vigilance que vous pourriez avoir dans le contrôle des sources plus classiques que vous utilisez : chacun est responsable de la manière dont il vérifie, apprécie et réutilise une information.
Soyez transparent(e) : si un document ou une analyse a été produit avec l’aide d’une IA, il est recommandé d’en informer ses collègues, sa hiérarchie ou ses destinataires, en particulier si ce sont des usagers du service public.
Respectez la propriété intellectuelle : l’origine des données utilisées par ces outils n’est pas toujours clairement documentée. N’utilisez pas, notamment pour une diffusion externe, un contenu que vous pourriez légitimement suspecter de réutiliser du contenu protégé.
Soyez conscient(e) des biais : gardez à l'esprit qu'il s'agit seulement d'un outil et essayez de comprendre comment il fonctionne.
Raisonnez votre usage pour limiter l’impact environnemental : l’IA générative est très consommatrice en énergie. Son usage doit être raisonné et pertinent.
Usages non sensibles
Certains cas d'usages de l'IAG au sein de l'administration peuvent être considérés comme "non sensibles" au sens où, par exemple, les données traitées sont publiques ou pourraient être rendues publiques ou qu'elles ne contiennent pas de données personnelles.
Pour ces cas d'usages, il est possible d'utiliser des solutions commerciales disponibles sur Internet ou de recourir à l'achat public pour en acheter sur étagère en respectant le cadre de la commande publique (ex : achat hors marché (< 40k €) par une administration de licences pour un outil de génération d'images, non hébergé sur un hébergement "SecNumCloud".)
Voici quelques exemples :
Synthèse automatique de documents publics (ex : rapports, délibérations, comptes rendus).
Génération ou relecture de brouillons de textes (notes, FAQ), quand cela ne nécessite pas de dévoiler des informations confidentielles
Aide à la production de code pour outiller les développeurs publics.
FAQ enrichies par IA pour des guides à destination des agents ou intranets ou espaces agents.
Synthèse ou quiz de formation générés automatiquement.
Aide à la réflexion (brainstorming)
Transcription automatique de vidéos publiques
Production de visuels pour illustrer des présentations ou des rapports
Exploration et visualisation automatisées de données publiques.
Rédaction de résumés ou d’analyses sur des jeux de données non sensibles.
Pour ces usages, il est important de veiller à saisir uniquement des informations qui peuvent être rendues publiques : ne communiquez pas de données personnelles, les vôtres ou celles de vos collègues ou d’usagers, de données protégées par le droit de la propriété intellectuelle ou industrielle, de données confidentielles liées à l’exercice de vos fonctions ou liées au secret des affaires des acteurs avec lesquels vous interagissez, etc. Ce qui est transmis à ces outils peut être stocké et utilisé ultérieurement.
Situations où les solutions non souveraines ne doivent pas être utilisées
Lorsqu’il y a un risque de divulgation de données protégées ou sensibles.
Lorsque les conditions d’utilisation du service ne sont pas claires ou conformes à la réglementation européenne. Les conditions d'utilisation des principales plateformes d'IA générative sont suivies via OpenTermsArchive à ce lien.
Lorsque sa hiérarchie l'interdit pour certains usages
Si vous avez des doutes ou des besoins spécifiques, nous vous recommandons de vous rapprocher de votre DSI ou de votre référent cybersécurité.
Usages sensibles
Pour les cas d’usage impliquant des données sensibles, il est impératif d’utiliser des solutions souveraines, hébergées sur des infrastructures conformes à SecNumCloud ou équivalentes.
La DINUM met à disposition des outils interministériels pour répondre à ces usages.
Pour en savoir plus :
Mis à jour
Ce contenu vous a-t-il été utile ?