IA éthique en santé : appliquer le guide d'implémentation à un projet réel

Numérique et IA en santé Publié le 05/08/2025 Dimitri Jorand

L'Agence du Numérique en Santé a finalisé le 29 juillet 2025 un guide éthique sur l'IA en santé. Ce guide, non contraignant, propose cinq exigences et des jalons de décision pour piloter un projet d'IA de bout en bout.

Le guide éthique de l'intelligence artificielle en santé, finalisé le 29 juillet 2025 par l'Agence du Numérique en Santé (ANS), propose un cadre de recommandations non contraignant pour accompagner les projets d'IA en établissement sanitaire ou médico-social. Il structure la réflexion autour de cinq exigences : responsabilité, transparence, explicabilité, équité et proportionnalité. Ce guide fixe des jalons de décision à chaque étape du cycle de vie d'un projet, de la conception au retrait du système, sans créer d'obligation juridique nouvelle.

La portée méthodologique du guide d'implémentation

Il faut le préciser dès le départ : le guide publié par l'Agence du Numérique en Santé le 29 juillet 2025 est un guide d'implémentation. Il aide à mettre en œuvre des principes éthiques dans un projet concret, mais il ne fixe aucune obligation réglementaire. Il ne remplace ni le règlement européen sur l'intelligence artificielle, ni le RGPD, ni les référentiels de la Haute Autorité de Santé. Il complète ces textes en donnant une grille de questions à se poser avant, pendant et après le déploiement d'un système d'IA dans un parcours de soin ou d'accompagnement.

Pour une direction d'établissement ou un chef de projet, cette distinction change la manière d'utiliser le document. La démarche consiste à documenter un raisonnement éthique et à le tenir à jour au fil du projet, plutôt qu'à cocher des cases pour se mettre en conformité. Le guide s'adresse aussi bien aux fournisseurs de solutions qu'aux déployeurs, c'est à dire les établissements qui achètent et mettent en œuvre l'outil, une distinction qui rejoint la logique retenue par le futur règlement européen sur l'IA. Un intégrateur, chargé de paramétrer le système dans l'environnement technique de l'établissement, occupe encore un rôle distinct, tout comme le responsable de traitement au sens du RGPD, qui n'est pas nécessairement la même personne que le référent projet désigné en interne.

Cette clarification des rôles est utile parce qu'un même établissement peut cumuler plusieurs casquettes selon les projets. Un centre hospitalier qui développe en interne un outil d'aide à la planification devient fournisseur de son propre système, avec les obligations de documentation que cela suppose, en plus de son rôle de déployeur. Un ESSMS qui se contente d'utiliser un logiciel du marché reste déployeur et responsable de traitement des données qu'il y injecte, même s'il ne maîtrise pas la conception du modèle.

Les cinq exigences du guide, appliquées à un projet

Responsabilité

Chaque système d'IA déployé doit avoir un porteur identifié côté établissement, capable de répondre des choix effectués sur son paramétrage et son usage. Cela suppose de désigner un référent projet, distinct du DPO et du RSSI, mais en lien constant avec eux. La santé mentale, Grande cause 2025 : construire une politique d'établissement crédible doit prévoir cette fonction avant le déploiement, pas après un premier incident. Cette responsabilité ne s'arrête pas à la mise en service : elle se prolonge tant que le système reste en usage, y compris lorsqu'une nouvelle version du modèle est déployée par le fournisseur sans intervention de l'établissement.

Transparence

Les professionnels concernés et, dans la mesure du possible, les patients ou usagers doivent savoir qu'un système d'IA intervient dans un processus de décision ou d'aide à la décision. Cette exigence recoupe les obligations d'information prévues par l'article 50 du règlement européen sur la transparence des systèmes d'IA, même si le guide de l'ANS raisonne en amont, sur le plan éthique, avant toute obligation juridique. Concrètement, cela peut prendre la forme d'une mention dans le dossier patient informatisé, d'une information orale lors de l'accueil, ou d'un support écrit remis aux familles dans un établissement médico-social.

Explicabilité

Un professionnel de santé doit pouvoir comprendre, au moins dans ses grandes lignes, pourquoi un système recommande telle information ou tel résultat. Pour les modèles les plus complexes, cette explicabilité reste partielle : le guide invite alors à documenter les limites connues plutôt qu'à promettre une transparence totale impossible à tenir. Dans la pratique, cela signifie que le fournisseur doit remettre une notice compréhensible par un non spécialiste, distincte de la documentation technique destinée aux développeurs.

Équité

Le guide demande d'examiner si un système peut produire des résultats différents selon l'origine, l'âge, le sexe ou la situation de handicap des personnes concernées. Cette vérification suppose de connaître la composition des données d'entraînement, information que le fournisseur doit être en mesure de fournir au déployeur. Un établissement qui dessert une population âgée ou en situation de précarité a intérêt à vérifier que ces profils sont représentés dans les données ayant servi à entraîner l'outil, sous peine de recommandations moins fiables pour une partie de sa patientèle.

Proportionnalité

Le niveau de vigilance doit être ajusté à l'impact potentiel du système sur la santé ou l'autonomie des personnes. Un outil d'aide à la planification des rendez-vous n'appelle pas le même niveau d'examen qu'un outil qui oriente une décision clinique. Cette logique rejoint celle de la prescription sociale : comprendre le dispositif avant de l'intégrer à un parcours dans le cadre européen. Un comité de gouvernance IA gagne à formaliser une grille simple de niveaux d'impact, du plus faible au plus élevé, pour éviter de traiter tous les projets avec la même intensité de vérification.

Des jalons de décision sur tout le cycle de vie

Le guide invite à traiter l'éthique comme une série de jalons répartis sur toute la durée de vie du projet, et non comme une étape ponctuelle : cadrage des besoins, choix du fournisseur, paramétrage, formation des équipes, mise en production, suivi des incidents, réévaluation périodique et, le cas échéant, retrait du système. À chaque jalon correspond une question simple : le système répond-il toujours à un besoin réel, dans des conditions acceptables pour les personnes concernées ?

Cette approche par jalons rapproche le guide éthique d'une démarche de gestion de projet classique, comme celle décrite dans un santé mentale au travail : passer de la sensibilisation à la prévention collective. Elle permet d'articuler l'éthique avec les autres exigences du projet, budgétaires, techniques et organisationnelles, sans en faire un sujet à part traité en fin de parcours. Chaque jalon peut ainsi être adossé à un livrable concret : une fiche de cadrage, un compte rendu de comité, un indicateur de suivi, ce qui facilite la traçabilité en cas de contrôle interne ou de question posée par une instance représentative des usagers.

Le tableau ci-dessous détaille, pour chaque jalon, la question éthique centrale, l'acteur responsable, un exemple de livrable attendu et le moment du cycle de vie où ce jalon doit être formellement validé.

Deux cas concrets

Dans un centre hospitalier de taille moyenne, un service de radiologie envisage d'intégrer un outil d'aide à la détection sur l'imagerie thoracique. Le guide de l'ANS pousse l'équipe projet à documenter, avant l'achat, l'origine des données ayant servi à entraîner le modèle et à vérifier que la population locale est correctement représentée. Le comité de gouvernance IA de l'établissement formalise ensuite un jalon de réévaluation à six mois, avec un indicateur simple : le taux de discordance entre la proposition de l'outil et la lecture du radiologue, ventilé si possible par profil de patient. Le référent projet consigne également les cas où le radiologue a écarté la proposition du système, afin d'identifier d'éventuelles zones de faiblesse récurrentes.

Dans un EHPAD, la direction étudie un système de détection des chutes basé sur des capteurs et une analyse automatisée. L'exigence de proportionnalité conduit l'équipe à limiter l'usage du système à une alerte transmise au personnel, sans déclenchement automatique d'une action médicale. L'exigence de transparence impose d'informer les résidents et leurs familles de la présence du dispositif, dans un langage clair, avant son installation dans les chambres. La direction prévoit aussi un jalon de retrait explicite : si le taux de fausses alertes dépasse un seuil défini à l'avance, le système est suspendu et réévalué avant toute remise en service.

Un troisième exemple, en HAD, illustre l'exigence d'équité. Une structure d'hospitalisation à domicile teste un outil de priorisation des visites infirmières fondé sur un score de risque calculé par IA. Avant généralisation, l'équipe compare les scores attribués selon l'âge et le lieu de résidence des patients, urbain ou rural, pour vérifier que l'outil ne défavorise pas systématiquement un profil par manque de données représentatives dans son entraînement initial.

Ce que votre organisation peut faire maintenant

Un établissement n'a pas besoin d'attendre un cadre juridique définitif pour commencer à appliquer les principes du guide. La première étape consiste à cartographier les systèmes d'IA déjà en usage, souvent plus nombreux qu'on ne l'imagine une fois que l'on inclut les outils bureautiques dotés de fonctions d'IA générative. Un schéma directeur immobilier en santé : piloter un projet qui relie soins, usages et climat constitue un point de départ concret et peu coûteux.

La seconde étape consiste à désigner clairement qui, dans l'organisation, porte la responsabilité de chaque système recensé, et à prévoir un rythme de réévaluation. La réalisation d'un diagnostic AI Act permet de croiser cette démarche éthique avec les obligations réglementaires à venir, sans les confondre. Enfin, une équipe projet gagne à s'appuyer sur une stratégie nationale IA et données de santé : les décisions à préparer dès maintenant pour clarifier, jalon par jalon, qui décide, qui exécute et qui est simplement informé.

1. Recenser les systèmes d'IA utilisés ou envisagés dans l'établissement, y compris les fonctions d'IA intégrées à des outils bureautiques ou métier existants.
2. Qualifier le niveau d'impact potentiel de chaque système sur les personnes, selon une grille simple partagée par le comité de gouvernance.
3. Désigner un référent responsable pour chaque système à impact significatif, distinct du DPO et du RSSI mais en lien avec eux.
4. Documenter les données d'entraînement, les biais connus et les limites d'usage auprès du fournisseur, avant toute signature de contrat.
5. Informer les professionnels et, si pertinent, les patients, résidents ou familles concernés, dans un langage compréhensible.
6. Former les équipes utilisatrices aux limites et aux marges d'erreur du système avant sa première utilisation réelle.
7. Fixer un jalon de réévaluation périodique avec des indicateurs simples, notamment sur l'équité et la fiabilité des résultats.
8. Prévoir dès le départ les conditions de retrait, de suspension ou d'évolution du système, y compris en cas d'incident.

Articuler le guide avec les autres cadres applicables

Le guide éthique de l'ANS ne se substitue ni au RGPD ni aux travaux de la CNIL sur les systèmes d'IA traitant des données de santé. Un projet qui suit les principes du guide devra encore vérifier sa conformité au regard de la checklist RGPD applicable au développement d'un système d'IA. De même, un système jugé à haut risque au sens du règlement européen sur l'IA reste soumis aux obligations spécifiques prévues par ce texte, distinctes des recommandations éthiques de l'ANS.

Pour situer ce guide dans le calendrier plus large des obligations européennes, les décryptages DEMETER sur le calendrier de l'AI Act permettent de distinguer ce qui relève d'une recommandation volontaire et ce qui deviendra une obligation applicable à une date précise. Un établissement qui souhaite structurer sa démarche de bout en bout peut également s'appuyer sur un développer et évaluer une IA en santé : les précautions attendues par la CNIL, dans lequel les jalons éthiques du guide de l'ANS trouvent naturellement leur place aux côtés des jalons techniques et réglementaires.

• Le guide de l'ANS est identifié comme un guide d'implémentation, sans valeur réglementaire contraignante.
• Un registre des usages de l'IA existe et est tenu à jour, y compris pour les outils bureautiques dotés de fonctions d'IA.
• Chaque système à impact significatif a un référent responsable identifié, distinct du DPO et du RSSI.
• Les données d'entraînement et les biais connus sont documentés pour chaque système avant son déploiement.
• Les professionnels concernés sont formés aux limites et aux marges d'erreur du système.
• Les personnes accompagnées sont informées de l'usage d'un système d'IA les concernant.
• Un jalon de réévaluation périodique est planifié pour chaque système, avec des indicateurs d'équité et de fiabilité.
• Les conditions de retrait ou de suspension du système sont anticipées avant sa mise en production.
• La cohérence avec le RGPD et le règlement européen sur l'IA est vérifiée séparément, sans confusion des statuts.

Conclusion

Le guide éthique de l'ANS donne aux établissements sanitaires et médico-sociaux un cadre structurant pour poser les bonnes questions à chaque étape d'un projet d'IA, sans créer d'obligation juridique nouvelle. Sa valeur tient à la discipline qu'il impose : documenter les choix, désigner des responsables et prévoir des jalons de réévaluation. Associé aux exigences du RGPD et du règlement européen sur l'IA, il permet aux organisations de déployer des systèmes d'IA de façon plus maîtrisée, au bénéfice des professionnels comme des personnes accompagnées. Cette logique de responsabilisation rejoint aussi la matrice RACI appliquée à un projet en santé, utile pour clarifier qui décide, qui exécute et qui est consulté à chaque jalon.

Questions fréquentes

Le guide éthique de l'ANS est-il obligatoire pour les établissements de santé ?

Non. C'est un guide de recommandations publié par l'Agence du Numérique en Santé. Il n'a pas de valeur contraignante et ne crée pas d'obligation juridique nouvelle. Il complète les textes existants, notamment le RGPD et le règlement européen sur l'IA.

Quelles sont les cinq exigences du guide ?

Le guide organise sa réflexion autour de la responsabilité, la transparence, l'explicabilité, l'équité et la proportionnalité, appliquées à chaque système d'IA utilisé dans un parcours de soin ou d'accompagnement.

Le guide s'applique-t-il aux fournisseurs de solutions d'IA ou aux établissements qui les utilisent ?

Il s'adresse aux deux, en distinguant le rôle du fournisseur, qui conçoit le système, et celui du déployeur, l'établissement qui l'intègre et l'utilise au quotidien.

Comment démarrer concrètement l'application du guide dans un établissement ?

La première étape consiste à recenser les systèmes d'IA déjà en usage dans un registre, puis à désigner un référent responsable pour chaque système ayant un impact potentiel sur les personnes accompagnées.

Le guide remplace-t-il les obligations liées au règlement européen sur l'IA ?

Non. Le guide éthique et le règlement européen sur l'IA coexistent. Un système qualifié à haut risque reste soumis aux obligations spécifiques du règlement, indépendamment des recommandations éthiques de l'ANS.

Que faire si un fournisseur ne peut pas documenter les données d'entraînement de son système ?

Cette absence d'information constitue un signal d'alerte à prendre en compte dans la décision d'achat. Le guide recommande d'exiger cette documentation avant toute intégration du système.

Le guide couvre-t-il tout le cycle de vie d'un projet d'IA ?

Oui. Il propose des jalons de décision depuis le cadrage du besoin jusqu'au retrait ou à l'évolution du système, en passant par le choix du fournisseur, le déploiement et le suivi dans la durée.