Shadow AI : encadrer les usages non déclarés sans bloquer le travail

Intelligence artificielle

Un outil d’IA utilisé sans cadre peut exposer des données et masquer un besoin réel. Voici comment recenser les usages, traiter les risques et proposer une alternative praticable.

Le shadow AI désigne les usages professionnels d’intelligence artificielle qui échappent au cadre connu ou validé de l’organisation. Cela peut être un assistant utilisé avec un compte personnel, une extension installée sans examen ou une fonction IA activée dans un logiciel déjà présent. Pour y répondre, il faut rendre les usages visibles, examiner les données et les accès, puis proposer des solutions autorisées réellement utilisables.

Le sujet concerne les entreprises, les collectivités, les établissements de santé et les structures médico-sociales. Il ne se réduit ni à la cybersécurité ni au comportement individuel d’une personne. Un besoin mal couvert, une règle incompréhensible ou un circuit de validation introuvable peuvent aussi laisser un usage sans réponse institutionnelle.

Shadow AI et shadow IT : de quoi parle-t-on exactement ?

Le shadow IT concerne des moyens numériques utilisés hors du cadre maîtrisé par les fonctions compétentes. Le shadow AI en est une déclinaison centrée sur l’intelligence artificielle. L’outil peut être gratuit ou payant, spectaculaire ou presque invisible dans un logiciel courant. Ce qui compte est l’écart entre l’usage réel et les conditions autorisées.

Un abonnement professionnel ne prouve pas, à lui seul, qu’un usage est approuvé. Inversement, une expérimentation déclarée, limitée et encadrée n’est pas clandestine simplement parce qu’elle n’a pas encore été généralisée. Le terme « shadow AI » n’est pas une qualification juridique automatique d’illégalité ou de système à haut risque.

Dans les repères de déploiement publiés le 18 juillet 2024, la CNIL invite notamment à définir les besoins, les usages permis et les limites, avec une gouvernance adaptée. Le problème du shadow AI commence souvent là : personne ne sait clairement où se situe cette frontière.

Repérer le besoin derrière un usage non déclaré

Une personne cherche parfois simplement à reformuler un message, préparer une réunion ou retrouver une information. La réponse de l’organisation sera différente selon que la tâche repose sur un texte public ou sur un document confidentiel. Demander seulement « utilisez-vous l’IA ? » ne permet pas de faire cette distinction.

Pour ouvrir un échange, quatre questions suffisent souvent : quelle tâche cherchez-vous à accomplir ; quel outil ou quelle fonctionnalité intervient ; quelles catégories d’informations lui transmettez-vous ; qui vérifie ensuite le résultat ? Demandez une description, pas une copie des conversations ou des documents sensibles.

Notre guide pour construire un inventaire des usages IA détaille le registre. Le présent article porte sur une autre décision : que faire lorsqu’un usage apparaît en dehors du cadre, et comment le ramener vers un fonctionnement maîtrisé ?

Une grille de premier examen, sans faux classement de conformité

La grille suivante est un support original de discussion. Elle ne constitue ni une analyse juridique ni un diagnostic de sécurité. Le statut dépend du contexte, des contrats, des configurations et des règles de la structure. Un usage apparemment simple peut devenir sensible à cause des données fournies.

Examiner un usage IA non déclaré : exemples fictifs et points à clarifier
SituationQuestion prioritairePremière réponse à organiser
Reformuler une consigne publiqueL’outil et ce type de tâche sont-ils autorisés ?Préciser le cadre et la vérification du texte produit.
Résumer un planning nominatifQuelles données personnelles ont quitté l’environnement prévu ?Éviter de nouveaux envois et faire examiner la situation par les interlocuteurs compétents.
Activer une prise de notes de réunionQui est informé, quelles voix et informations sont enregistrées, où vont-elles ?Faire vérifier les conditions avant toute poursuite.
Connecter un assistant à des documents internesQuels documents et quels droits d’accès sont effectivement exposés ?Suspendre une connexion non maîtrisée selon la procédure de sécurité et contrôler son périmètre.
Faire envoyer automatiquement une réponseQui autorise l’action et contrôle son destinataire ?Examiner les permissions, les validations et la possibilité d’arrêter le circuit.

Traiter une exposition possible avant de débattre du meilleur outil

Si un document sensible semble avoir été transmis à un service non approuvé, ne demandez pas de le recopier dans un nouveau chatbot pour « vérifier le risque ». Utilisez le canal interne de sécurité, interrompez les nouveaux transferts concernés et contactez les responsables identifiés. Une question d’accès peut relever de la DSI ou du RSSI ; une exposition de données personnelles demande aussi l’appui du DPO lorsqu’il a été désigné ou, à défaut, de l’interlocuteur chargé de la protection des données.

Conservez les éléments utiles à l’examen dans les espaces autorisés, sans les diffuser à toute l’équipe ni détruire les traces avant avis des personnes compétentes. Le traitement d’un incident, les mesures correctrices et une éventuelle notification dépendent de l’analyse. Cet article ne fournit pas une procédure universelle de réponse à incident.

Le guide ANSSI d’avril 2024 traite la sécurisation d’un système d’IA générative dans son ensemble. Il ne vaut pas validation de sa qualité métier ni de sa conformité aux règles de protection des données.

Passer d’une interdiction générale à des choix compréhensibles

Une liste d’outils ne suffit pas si elle ne dit pas quoi en faire. Un cadre opérationnel précise, pour chaque tâche retenue, l’environnement autorisé, les données admises, les actions interdites, la vérification attendue et le point de contact. Il prévoit aussi comment demander l’examen d’un nouveau besoin.

Exemple fictif : une équipe administrative veut améliorer la lisibilité d’un message d’accueil. Elle travaille d’abord sur un texte entièrement inventé, sans nom, coordonnées, situation individuelle ou document interne. La structure peut alors évaluer un outil et la qualité de ses propositions sans commencer par transférer des dossiers réels.

La demande initiale « nous voulons un assistant » devient une tâche délimitée : produire une proposition de formulation que l’agent relit avant envoi. Si le besoin porte ensuite sur des documents confidentiels, une nouvelle analyse est nécessaire ; le premier essai n’autorise pas cette extension.

La charte d’utilisation de l’IA générative aide à écrire le cadre. Pour les données en entrée, le dossier ChatGPT et confidentialité apporte des repères complémentaires.

Une solution interne ou française n’est pas automatiquement conforme

Le choix d’un hébergement ou d’un fournisseur ne remplace pas l’examen des accès, de la conservation, des destinataires, des sous-traitants et des usages. La FAQ de la CNIL sur l’utilisation de l’IA générative distingue les modalités de déploiement et leurs précautions. Le bon choix dépend notamment des informations traitées et du service réellement fourni.

Une option « ne pas entraîner le modèle avec les conversations » n’est donc pas un résumé suffisant du dossier. De même, connecter un assistant à un fonds documentaire ne dispense pas de préserver les droits d’accès de chaque utilisateur. Le choix entre RAG et fine-tuning répond à un besoin technique ; il ne tranche pas, à lui seul, les questions de gouvernance.

Former sur les situations qui ont créé le contournement

Une sensibilisation utile part des tâches remontées : reformuler, résumer, rechercher, comparer ou automatiser. Les participants doivent pouvoir reconnaître une information non partageable, choisir l’environnement prévu, examiner une réponse et savoir quand solliciter un avis. Une démonstration séduisante ne suffit pas à montrer ces compétences.

Vous pouvez proposer un exercice sur un dossier entièrement fictif : repérer les éléments à exclure, expliquer le choix de l’outil, puis corriger une réponse comportant une erreur volontaire. Le débriefing porte sur les décisions, pas sur la vitesse de production. Les limites et hallucinations de l’IA restent à examiner même lorsque l’usage a été autorisé.

Suivre les besoins résolus, pas seulement les usages déclarés

Une première période de suivi peut examiner les demandes reçues, leur délai de traitement, les alternatives effectivement accessibles et les difficultés persistantes. Documentez le périmètre observé. Une hausse des déclarations peut traduire une meilleure visibilité ; elle ne prouve pas, isolément, une hausse des comportements à risque.

À l’inverse, l’absence de signalement ne démontre pas que tous les usages sont maîtrisés. Vérifiez si le point de contact est connu, si les décisions reviennent aux équipes et si l’outil proposé répond à leur travail réel. Évitez de transformer ce suivi en classement nominatif de « bons » et de « mauvais » utilisateurs.

Relier acculturation, diagnostic et accompagnement

DEMETER SANTÉ intervient sur la formation à l’IA, le cadrage des usages et la gouvernance, avec la possibilité de travailler un besoin sur mesure. Pour commencer, consultez nos services IA pour les organisations de santé ou décrivez votre situation à notre équipe. Un échange peut porter sur les usages non déclarés, les compétences attendues et les conditions d’une solution adaptée, sans présumer que tout besoin demande une application nouvelle.

Questions fréquentes

Qu’est-ce que le shadow AI ?

Le shadow AI désigne les usages professionnels d’intelligence artificielle qui échappent au cadre connu ou validé de l’organisation : outil personnel, extension, fonctionnalité ou connexion non examinée. Ce terme ne suffit pas à qualifier juridiquement un usage.

Quelle différence entre shadow AI et shadow IT ?

Le shadow IT concerne les moyens numériques utilisés hors du cadre maîtrisé de l’organisation. Le shadow AI en est une déclinaison centrée sur les outils et fonctions d’intelligence artificielle. Les données et les actions du système doivent être examinées, pas seulement le logiciel installé.

Faut-il interdire tous les outils d’IA pour limiter le shadow AI ?

La décision dépend des risques et des règles de la structure. Une réponse opérationnelle précise les usages autorisés, les données exclues, les outils disponibles, les contrôles et le circuit pour demander une alternative. Un risque identifié peut nécessiter une suspension immédiate ciblée.

Que faire si un document confidentiel a été envoyé à un outil non autorisé ?

Évitez de nouveaux transferts et utilisez le canal interne de sécurité. Si des données personnelles sont concernées, associez le DPO désigné ou, à défaut, l’interlocuteur chargé de leur protection. Ne recopiez pas le document dans un autre service pour demander un avis et ne détruisez pas les traces avant l’examen compétent.

Un outil payant ou hébergé en France élimine-t-il le risque ?

Non. L’abonnement et la localisation ne résument pas le traitement. Il faut examiner les données, les accès, les destinataires, les conditions contractuelles, la conservation et les fonctionnalités réellement utilisées. La conformité ne se déduit pas d’un seul argument commercial.

Sources et méthode

Rédigé le 18 octobre 2026 sous la signature éditoriale de Dimitri Jorand. Sources primaires consultées à cette date. Préparation rédactionnelle assistée par IA et contrôle documentaire des références. Les situations et outils pédagogiques proposés sont originaux ; les exemples sont fictifs. Ce support d’information ne remplace pas l’analyse de votre situation par les interlocuteurs compétents ni les procédures de votre structure.

Sources