Le Digital Medical Hub de l’APHP et Ethik IA lancent le premier label de Garantie humaine de l’Intelligence artificielle

Le Digital Medical Hub et Ethik IA ont lancé le 1er février 2023 à PariSanté Campus le premier label de Garantie humaine de l’Intelligence artificielle. Débattu par les sociétés savantes, attendu par la société civile, le label de garantie humaine de l’intelligence artificielle est la première garantie d’un processus de développement et de déploiement des algorithmes entièrement contrôlé par des humains.

Reconnu à l’échelle française, européenne et internationale, le principe de Garantie Humaine assure le développement éthique des intelligences artificielles concourant à la santé, en établissant des points de supervision humaine tout au long de leur évolution. 

Le règlement de l’Union européenne sur l’intelligence artificielle (AI Act), dont le projet a été publié le 21 avril 2021, doit être promulgué durant le premier semestre 2023. Il a pour objectif d’établir des règles harmonisées sur l’intelligence artificielle au sein de l’Union et de faire de l’Europe un précurseur en termes de régulation de l’IA tout en préservant ses capacités d’innovation. Ce projet reprend directement le principe de Garantie Humaine (Human oversight) et a vocation à s’appliquer à l’ensemble des systèmes d’IA, quel que soit leur domaine d’application ou leur technologie, en fonction du niveau de risque qui leur est associé.

Pour en savoir plus sur le label de Garantie humaine de l’Intelligence artificielle, lisez notre interview exclusive avec David Gruson, Fondateur ETHIK-IA et Directeur Programme Santé LUMINESS :

Pourquoi une régulation européenne sur l’IA et quels en sont les bénéfices attendus pour le patient ? 

Cette régulation s’est, en réalité, construite dans le sillage des travaux sur la révision de la loi de bioéthique française de 2021. A la suite de l’avis 129 du Comité consultatif national d’éthique, l’article 17 de cette loi avait repris le principe de Garantie Humaine de l’IA. Celui-ci impose un devoir d’information du patient sur le recours à l’IA dans sa prise en charge ainsi qu’une supervision humaine – en articulation avec des professionnels de santé et des représentants des patients – dans la phase de conception et dans l’application en vie réelle de la solution. Ces obligations ont été reprises dans le cadre du futur règlement européen sur l’IA – AI Act – dans ses articles 14 (du côté des concepteurs) et 29 (du côté des utilisateurs de systèmes d’IA). Evidemment, ce dispositif a pour objectif de donner confiance dans l’IA en santé pour les patients et les professionnels sans verser dans la sur-réglementation. En effet, la conception même du dispositif de Garantie Humaine relève, en première intention, de l’initiative du concepteur ou de l’utilisateur du système d’IA.

Comment se passe, concrètement, cette mise en conformité en Garantie humaine de l’IA ?

Ce principe se traduit opérationnellement par la mise en œuvre de collèges de Garantie Humaine. Ces collèges ont pour objectif d’assurer une revue pluridisciplinaire a posteriori de dossiers médicaux traités par un système d’IA, afin d’en analyser les résultats à travers un prisme alliant professionnels médicaux et paramédicaux, concepteurs et représentants des usagers, et de faire ressortir de potentielles actions correctives, destinées à assurer une utilisation éthique du système et en optimiser les performances.

Le premier projet d’accompagnement en conformité en Garantie Humaine a été initié avec l’Union française pour la santé bucco-dentaire (UFSBD). L’UFSBD avait confié à Ethik-IA la réalisation d’un audit juridique et éthique du fonctionnement de la solution ORALIEN (solution d’IA de reconnaissance d’image mise en œuvre par la start-up française Dental Monitoring dans le domaine dentaire s’appliquant à 48 EHPAD dans le cadre d’un protocole de financements innovants article 51 LFSS) afin de s’assurer de la conformité de celle-ci avec les règles en matière de protection des données à caractère personnel et notamment au regard des obligations spécifiques qui s’imposent en matière de données dites sensibles concernant la santé.

La mise en œuvre de ce Collège de garantie humaine associé à l’expérimentation de l’UFSBD constitue le premier cas effectivement mis en œuvre d’un principe devant prochainement entrer dans le droit européen et ayant déjà fait l’objet d’une reconnaissance au plan international. L’audit mis en œuvre a permis l’élaboration d’un modèle de supervision, consistant en une analyse de dossiers traités par l’IA par des réviseurs chirurgiens-dentistes mandatés par l’UFSBD, des propositions d’actions correctives et un bilan annuel du fonctionnement du dispositif permettant un modèle évolutif. Le sixième collège a eu lieu le 19 janvier dernier.

Après l’entrée en application du règlement, les entreprises pourront faire l’objet de contrôles des autorités désignées par les États membres afin de vérifier la conformité des systèmes d’IA, ce qui implique une traçabilité de cette nouvelle obligation de Garantie Humaine.

Quel est le calendrier pour s’y préparer et cette démarche est-elle seulement européenne ?

Ce texte sera finalisé d’ici à la fin du premier semestre 2023 et s’appliquera à partir de 2025 avec la même force opposable que le RGPD. Deux ans, cela laisse un peu de temps pour se préparer mais évidemment plus les acteurs s’y prépareront en amont plus cette étape majeure pourra être abordée fluidement. La Garantie Humaine a, au-delà de l’Europe, une portée internationale puisque ce principe figure dans les recommandations éthiques sur l’IA publiées par l’OMS à l’été 2021. La FDA américaine recommande également cette supervision humaine – Human Oversight – au stade de l’application des dispositifs d’IA en vie réelle. Un point de précision sur le périmètre : le règlement européen étend l’applicabilité de la Garantie humaine à l’ensemble des systèmes d’IA et non seulement à la santé.

Quel est le service apporté par Ethik-IA pour cette nouvelle conformité en Garantie Humaine de l’IA ?

Ethik-IA accompagne les concepteurs et utilisateurs des systèmes sur l’ensemble du processus de préparation à cette conformité de l’audit initial de design du dispositif de Garantie Humaine jusqu’à la mise à disposition d’une plateforme technologique de conformité permettant d’assurer la traçabilité de la supervision auprès de l’autorité de régulation. Nous avons, par ailleurs, lancé le 1^er février la première démarche de labellisation en Garantie Humaine de l’IA avec le Digital Médical Hub de l’AP-HP. C’est une étape essentielle qui se prolongera avec l’engagement dès les prochaines semaines d’un chantier AFNOR permettant de capitaliser sur ces acquis méthodologiques au stade de la normalisation. La France et l’Europe ont donc une longueur d’avance sur ces questions et c’est une source de valeur ajoutée pour le développement d’une IA en santé efficace et durable. A nous de jouer collectivement !

A propos de Ethik-IA

Ethik-IA porte depuis près de trois ans une initiative forte et originale sur la régulation positive de l’intelligence artificielle et du pilotage par les données.

https://www.linkedin.com/company/ethik-ia/

A propos de Digital Medical Hub (AP-HP)

La plateforme Digital Medical Hub réunit un consortium de scientifiques des secteurs privé, institutionnel et public. Ils réalisent ensemble un projet d’intérêt public qui est d’améliorer la qualité des soins. Cette plateforme est située au sein du département de Physiologie-Explorations Fonctionnelles des Hôpitaux Universitaires Paris Nord Val de Seine (Assistance Publique – Hôpitaux de Paris).

https://www.digitalmedicalhub.com/