Quels sont les grands principes éthiques appliqués aux pratiques de Télémédecine fondées sur l'Intelligence Artificielle (IA) en Santé Publique ? (2)

Nous abordons la deuxième partie de l'article consacré aux principes éthiques des pratiques de télémédecine fondées sur l'IA. Nous engageons le lecteur à lire la première partie avant de se lancer dans la lecture de cette seconde partie (https://telemedaction.org/422885857/telemedecine-62).

Ethics Principles for Artificial Intelligence-Based Telemedicine for Public Health. Tiribelli S, Monnot A, Shah SFH, Arora A, Toong PJ, Kong S. Am J Public Health. 2023 May;113(5):577-584. doi: 10.2105/AJPH.2023.307225. Epub 2023 Mar 9.PMID: 36893365.

LES GRANDS PRINCIPES ETHIQUES DE LA TELEMEDECINE FONDEE SUR L'IA EN SANTE PUBLIQUE

Bien que les pratiques de télémédecine fondées sur l'IA soient variées et aient le potentiel d'améliorer l'équité en matière d'accès à la santé, aux soins cliniques et aux structures de santé publique en général, elles peuvent comporter des risques éthiques.

Par conséquent, l'élaboration et l'adoption de cadres éthiques sont nécessaires pour détecter et traiter ces risques. Alors que quelque 84 cadres éthiques sur l'usage de l'IA ont été développés dans le monde (Jobin A , Ienca M , Vayena E. The global landscape of AI ethics guidelines. Nat Mach Intell. 2019;1(9):389–399. https://doi.org/10.1038/s42256-019-0088-2 Crossref, Google Scholar),aucun n'a concerné spécifiquement la télémédecine fondée sur l'IA en santé publique, malgré l'importance de plus en plus reconnue de ce sujet à la fois dans les soins distanciels et en santé publique.

Pour combler cette lacune, nous avons analysé et comparé différentes approches éthiques développées dans les domaines de l’éthique de l’IA, de la bioéthique, de l’éthique médicale (y compris la santé numérique et la télémédecine) et de l’éthique en santé publique. Nous avons tenté de trouver des points de convergence entre ces différentes approches, qui pourraient aider à l'élaboration d'un cadre éthique spécifique à la télémédecine fondée sur l'IA en santé publique.

Notre analyse a montré que toutes les approches reposent au minimum sur les 4 grands piliers de la bioéthique : (1) la bienfaisance, (2) la non-malfaisance, (3) l'autonomie et (4) la justice. Notre analyse a également montré que les grands principes éthiques et les thèmes abordés dans les domaines précités peuvent converger sous forme de principes de haut niveau, tels que ceux fournis par l'OMS en 2021 dans son document « Éthique et gouvernance de l'intelligence artificielle pour la santé » (World Health Organization. Ethics and governance of artificial intelligence for health. June 28, 2021. Available at: https://www.who.int/publications/i/item/9789240029200. Accessed May 9, 2022. Google Scholar).

Nous avons retenu 6 principes éthiques en les faisant correspondre aux domaines pertinents de la télémédecine fondée sur l'IA en santé publique. Nous réfléchissons également aux acteurs qui sont appelés à agir pour faire respecter et mettre en œuvre chacun de ces principes.

Bienfaisance et non-malfaisance

La bienfaisance et la non-malfaisance se rapportent à la prestation de soins aux patients et visent à faire le bien et non à nuire. Bien que la bienfaisance soit une démarche naturelle dans toute intervention médicale et de santé publique, la non-malfaisance peut parfois soulever des questions dans le cadre des pratiques de télémédecine fondées sur l'IA. En effet, certaines solutions techniques peuvent faire preuve d'un degré de malfaisance à l'égard de groupes de personnes vulnérables, bien qu'elles soient motivées par des intentions bienveillantes. Par exemple, lorsque des communautés minoritaires ou celles qui n'ont pas accès à la technologie sont exclues des avantages apportés par l'innovation numérique, il y a malfaisance à leur endroit. Pour prévenir et détecter les préjudices potentiels, la non-malfaisance doit être pensée et mise en œuvre en même temps que sont abordées l'innocuité clinique, l'efficacité et l'inclusion numérique.

Autonomie

L'autonomie décrit le principe selon lequel les personnes devraient être en mesure de prendre elles-mêmes des décisions éclairées concernant leurs propres soins. Ce principe exige de demander un consentement libre et éclairé, et de garantir la protection de la vie privée. Dans ce contexte, les principes éthiques de l'IA et de la santé publique peuvent entrer en conflit sur la question du partage des données. L'IA est une technologie qui repose sur l'utilisation de méga données (Big Data), qui doivent être entraînées dans de grands ensembles provenant de diverses populations, afin d'être efficace et d'éviter les biais dans l'apprentissage automatique des algorithmes. Cependant, il y a généralement une réticence des individus à partager leurs données personnelles de santé à cause d'un manque de confiance dans les institutions de santé.

Du point de vue de la santé publique, beaucoup soutiennent que le partage de données de santé personnelles pour l'apprentissage automatique des algorithmes devrait être rendu obligatoire lorsqu'ils sont utilisés à l'échelle d'une population pour l'intérêt général. Cela peut aller à l'encontre du principe traditionnel d'autonomie qui privilégie l'autodétermination des individus.

Dans le domaine de la télémédecine fondée sur l'IA en santé publique, l'autonomie doit être repensée via une approche relationnelle dans laquelle l'autonomie individuelle peut être promue tout en reconnaissant la responsabilité des cliniciens, des experts en santé publique et des législateurs à diriger les soins de santé publique administrés aux patients. Pour ce faire, il faudrait renforcer la confiance des patients et obtenir leur adhésion à partager leurs données personnelles de santé en les faisant participer à la recherche en santé publique, au lieu de créer des obligations légales.

Justice et Equité

La Justice et l'Equité sont généralement décrites dans l'éthique de l'IA comme étant liées aux préjugés et à la discrimination dans l'apprentissage automatique. En effet, au-delà des risques causés par la fracture numérique en matière de santé publique et d'alphabétisation, il existe des risques de dommages iatrogènes qui peuvent accroître l'injustice en matière de santé lorsque les algorithmes ne sont pas entraînés sur des données représentatives de la population qu'ils sont censés servir. Dans le domaine de la télémédecine fondée sur l'IA en santé publique, la conception de tels systèmes devrait prendre en compte les plus vulnérables et les plus marginalisés, et être ainsi déployée en tenant compte des besoins de ces populations fragilisées, de leur capacité à y accéder et à les utiliser.

Explicabilité

Pour être efficaces, les interventions en santé publique nécessitent le consentement des populations. Pour obtenir ce consentement, les interventions doivent être intelligibles pour le grand public. La télémédecine fondée sur l'IA pose un défi en matière de santé publique, étant donné que l'apprentissage automatique des algorithmes est souvent une "boîte noire". Les systèmes d'IA doivent respecter le principe d'explicabilité, lequel est non seulement un mécanisme de sécurité, mais aussi un principe de santé publique important pour encourager une adoption généralisée de l'IA.

Responsabilité et devoir rendre des comptes

Dans le contexte de la télémédecine fondée sur l'IA, on peut s'inquiéter de la nécessité d'une responsabilité professionnelle et de devoir rendre des comptes après que les technologies ont été mises en œuvre. Les systèmes réglementaires existants ne sont pas conçus pour gérer les applications de l'IA. Les applications de l'IA nécessiteraient une réglementation quasi-"permanente" qui prenne en compte le cycle de vie des algorithmes, lesquels sont en constante évolution dans l'IA générative. De plus, le problème de la responsabilité professionnelle est accentué lorsque l'IA est comparée à d'autres interventions de santé publique, qui font souvent l'objet d'une surveillance humaine étroite. Différentes équipes peuvent ainsi créer, réglementer, concéder des licences et exploiter des solutions d'IA, ce qui peut entraîner une confusion sur les niveaux de responsabilité. Il convient donc de mettre en place des guidelines claires et compréhensibles sur la répartition des responsabilités et la réparation des préjudices potentiellement causées par l'IA.

Durabilité et réactivité

Pour être efficace sur le long terme, la télémédecine fondée sur l'IA doit être conçue pour être durable. Elle doit répondre aux besoins d'une population qui est en constante évolution. Les modifications des données personnelles de santé au fil du temps représentent un défi pour l'IA, car ces changements dans les caractéristiques de la population peuvent entraîner une opérationnalité déviante des algorithmes lorsque la population devient différente de celle sur laquelle les algorithmes ont été initialement entrainés. De plus, pour encourager l'adoption et déclencher une réaction positive du public, il faut que ce dernier ait confiance dans l'IA, ce qui nécessite des preuves d'efficacité, d'efficience et de proportionnalité.

L'EXEMPLE D'UNE APPLICATION DE TELEMEDECINE FONDEE SUR L'IA

Nous engageons le lecteur de ce billet à lire dans l'article original l'analyse du cas d'usage choisi par les auteurs, une application permettant de surveiller l'observance d'un traitement. Nous ne rapportons que la conclusion des auteurs à la fin de la présentation de l'application.

L'analyse d'une application de télémédecine fondée sur l'IA dans la vie réelle, faite à travers les prismes de notre cadre éthique, montre la valeur de ces principes. Ils permettent de mettre en évidence une série de considérations et de risques éthiques complexes qui seraient difficiles à détecter autrement. De tels risques, s'ils ne sont pas pris en compte, peuvent conduire à l'adoption d'outils qui, au lieu de les promouvoir, peuvent porter atteinte aux droits des personnes et à la santé publique. Les considérations mises en évidence montrent également la nécessité de poursuivre les travaux et d'affiner, par l'analyse de cas, les principes éthiques que nous proposons. L'objectif est de les rendre adéquat à des scénarios et de fournir des guidelines capables de les surmonter.

CONCLUSIONS

La télémédecine fondée sur l'IA a le pouvoir d'être une aide précieuse aux écosystèmes de la santé publique dans le monde entier. Elle permet d'espérer une meilleure santé et de meilleurs soins cliniques, une surveillance de l'état de santé allant de la prévention à la gestion des maladies, tant au niveau individuel qu'au niveau populationnel. Toutefois, la télémédecine fondée sur l'IA peut également présenter des risques éthiques spécifiques et nuisibles aux personnes, ainsi que contrecarrer les objectifs de santé publique que sont la promotion des meilleurs soins et l'équité en santé. L'absence d'un cadre éthique pour évaluer une telle technologie peut entraver la détection des risques éthiques, mettant en péril le potentiel de la télémédecine fondée sur l'IA en santé publique. En effet, certains des risques que nous avons mis en évidence, tels que le partage inapproprié des données personnelles de santé et la discrimination des personnes, pourraient entraver la confiance des personnes envers la télémédecine fondée sur l'IA, et rendre les acteurs de santé publique réticents à adopter de tels outils, ce qui entraînerait une perte potentielle d'opportunités en faveur des patients.

Nous espérons que nos efforts pour mettre en évidence les principes éthiques pertinents pour la télémédecine fondée sur l'IA stimuleront d'autres recherches conceptuelles et techniques afin de mieux affiner et opérationnaliser ces principes dans le but de faire de la télémédecine fondée sur l'IA une véritable force en santé publique.

COMMENTAIRES. Cet article nous semble être en harmonie avec les préoccupations actuelles sur le bon usage de l'IA en médecine et plus généralement en santé publique. En matière de télémédecine (et de télésoin), les auteurs mettent bien en évidence les risques éthiques des pratiques de télémédecine alimentées par les algorithmes de l'IA générative, comme le sont les dispositifs médicaux numériques (DMN) utilisés pour la télésurveillance médicale, mais aussi les outils d'aide au diagnostic lors de téléconsultations. La France n'est pas en retard sur ce sujet. Nous invitons le lecteur à lire le livre "Pour une éthique du Numérique" écrit par les membres du Comité national pilote du Numérique, ouvrage coordonné par Eric Germain et coll. (https://telemedaction.org/422783742/452159554), ainsi que le remarquable travail réalisé par la cellule éthique de la Délégation du Numérique en Santé (Pr Brigitte Séroussi et coll.) : "Comment évaluer une tension éthique en télésanté" (https://telemedaction.org/437100423/ethique-et-t-l-sant). Enfin, la France est à l'origine du principe de "Garantie Humaine" (David Gruson et Ethik-IA,(https://www.ethik-ia.fr/). Reconnu à l'échelle française, européenne et même internationale, le principe de Garantie Humaine assure le développement éthique des intelligences artificielles concourant à la santé, en établissant des points de supervision humaine tout au long de leur évolution. Ce principe peut même devenir un label pour des applications de télémédecine fondées sur l'IA (https://esante.gouv.fr/agenda/lancement-du-premier-label-de-garantie-humaine-de-lintelligence-artificielle#:~:text=Reconnu%20%C3%A0%20l'%C3%A9chelle%20fran%C3%A7aise,au%20long%20de%20leur%20%C3%A9volution.)

8 novembre 2023