L'Intelligence Artificielle Médicale (IAM) selon l'Académie Nationale de Médecine américaine

Après l'emballement médiatique des dernières années, l'Intelligence artificielle médicale (IAM) devient aujourd'hui une innovation parmi d'autres, traversée à la fois par l'espoir et le doute qui caractérisent tout progrès scientifique, en particulier dans le domaine de la santé. Le récent rapport de l'Académie Nationale de Médecine américaine (Artificial Intelligence in Health Care : the Hope, the Hype, the Promise, the Peril) donne une vision médicale et académique sur les avancées et les incertitudes de l'IAM. Il vise à corriger certains faux espoirs suscités par une médiatisation excessive du sujet.

Ce document est volumineux (237p). Nous en ferons en 2020 plusieurs billets pour en tirer les principaux enseignements. Nous commençons par une brève synthèse de l'ouvrage afin d'encourager les lecteurs de ce blog à le lire en entier. Vous y accédez en cliquant sur le lien suivant :  https://nam.edu/artificial-intelligence-special-publication/

L'implication de l'IA dans le champ de la santé au XXIème siècle est irréversible

L'émergence  de l'intelligence  artificielle  (IA) comme moyen d'améliorer les soins de santé est considérée par les académiciens américains comme un évènement sociétal majeur du XXIème siècle. Les possibilités d'agir sur les systèmes de santé sont sans précédent. L'IAM soulève de grands espoirs d'amélioration des résultats cliniques chez les patients. L'IAM peut réduire certains coûts de santé tout en ayant un impact significatif sur l'amélioration de la santé des populations.

Bien qu'il y ait eu un certain nombre d'exemples prometteurs d'applications d'IAM dans les soins de santé, en particulier dans l'interprétation des images médicales et dans les traitements ciblés de certains cancers, l’Académie américaine pense qu'il devient impératif d’avancer avec prudence. Sinon, nous pourrions être confrontés dans le futur à de grandes désillusions, notamment si on constatait dans quelques années que l'IAM a exacerbé les disparités déjà existantes en matière de santé et d'accès aux technologies numériques.

C’est la raison pour laquelle la National Academy of Medicine publie cet ouvrage dont le titre en français serait "l'intelligence artificielle dans les soins de santé : les espoirs, les exagérations médiatiques, les promesses raisonnables, les risques méconnus. L'ouvrage fait une synthèse de toutes les connaissances actuelles sur l'IAM et offre ainsi un document de référence à tous les acteurs concernés par le développement de l'IAM : les développeurs industriels d’applications, les professionnels de santé, les patients, les régula­teurs financiers et les décideurs administratifs, pour n'en nommer que quelques-uns.

Cet ouvrage décrit les applications actuelles et à venir de l'IAM, met en évidence les défis, les limites et les meilleures pratiques professionnelles pour un développement réussi de l’IAM, son adoption par les soignants et les patients, ainsi que la formation continue qui doit exister dans ce domaine en constante évolution. L'ouvrage offre également un aperçu du cadre juridique et réglementaire en vigueur non seulement aux Etats-Unis, mais également en Chine et en Europe (France, Allemagne, Royaume-Uni) sur l'usage des outils d'IAM conçus pour améliorer les soins de santé, notamment les IoT. Il souligne la nécessité de veiller à l'équité des solutions mises en oeuvre, en prenant en compte en particulier les droits des personnes et des patients. Enfin, il décrit plusieurs perspectives qui permettent de continuer à avancer dans le domaine de l'IAM.

Les conditions d'accès aux données de santé, le cadre normatif et la qualité du recueil sont essentiels au développement de l'IAM.

Les algorithmes d'IAM doivent être construits à partir de données représentatives de la population pour atteindre les niveaux de performance attendus et éviter les biais. Le coût du stockage et de la gestion des données de santé, le recueil de données partielles dans les dossiers de santé électroniques, la génération exponentielle de données du "bien-être" par les consommateurs d’applis mobiles, etc., incitent à construire un écosystème de soins de santé qui s'appuie sur cette richesse en données de santé.

Cependant, cette croissance des données sur les soins de santé est confrontée à l'absence de mécanismes efficaces d'intégration et de fusion lorsqu'on les sort de leur cloisonnement actuel. Bien qu'il  existe  de multiples cadres normatifs déjà en place pour aider à agréger et à atteindre un volume de données suffisant à la création d’algorithmes, une adhésion plus large de la population s'avère essentielle pour soutenir la création d'outils de l’IAM, leur déploiement et leur maintenance.

Il persiste des questions importantes sur l'interopérabilité des systèmes de collecte de données entre eux. Elle est nécessaire pour réaliser le transfert et le stockage de toutes les données de santé. Les raisons de ces freins sont à la fois culturelles, sociales et réglementaires. Pour les académiciens américains, les solutions à mettre en place nécessitent l'engagement de toutes les parties concernées par le développement de l’IAM.

L'ensemble de la communauté professionnelle des soins de santé devrait plaider en faveur de la mise en place de mécanismes politiques, réglementaires et  législatifs qui visent à améliorer la collecte de ces données de santé et leur agrégation équitable et transparente dans un entrepôt afin qu'elles soient utilisées de la meilleure façon possible. Pour les académiciens américains, un juste équilibre doit être trouvé entre les fortes incitations financières du secteur marchand et le bien public.

Dans une pratique éthique des soins de santé, l'Académie estime qu'il faut prioriser l'équité d'accès et l'inclusion de toutes les données de santé d'une population.

­ Pour parvenir à de tels objectifs, il faut avoir une représentation fiable de la population en donnant la priorité à ce que l'on pourrait appeler "le quintuple objectif d'équité et d'inclusion pour la santé et les soins de santé". Celui-ci peut se décliner de la manière suivante : une meilleure santé de la population, une meilleure expérience des soins pour les patients, le bien-être des équipes soignantes, des soins à moindre coût, l'équité en matière d'accès à la santé.

La priorité donnée à l'équité et à l'inclusion la plus large de données de santé doit être un objectif clairement énoncé au moment de l'élaboration et du déploiement de l'IAM dans les soins de santé. Il existe de nombreux exemples très médiatisés d'outils d’IA truffés de biais et d’erreurs qui ont desservi l’IAM et nui à la confiance du public dans l'IAM. Il serait judicieux que les développeurs d’IAM évaluent préalablement la pertinence des données recueillies avant de les utiliser pour créer les outils d'IAM. Ils doivent en particulier supprimer tous les biais sous-jacents liés à la non-représentativité des données.

Ils doivent également se demander si les environnements du déploiement ont un impact négatif sur l'équité  et  l'inclusivité. Il existe  des insuffisances ou des erreurs largement reconnues dans certains résultats en raison de la variété des déterminants sociaux de la santé et des incitations parfois perverses qui peuvent exister au sein même d'un système de santé. Malheureusement, les technologies qui reposent uniquement sur un usage consumériste de l'IA ont souvent aggravé les inégalités dans des domaines autres que la santé. Elles risquent également de créer de telles inégalités dans le domaine des soins de santé.

La transparence dans les applications de l'IAM doit créer la confiance 

La transparence est essentielle pour renforcer la confiance dans l’IAM, confiance nécessaire entre les utilisateurs et les développeurs. Mais il existe des domaines où les besoins de transparence sont différents. L’Académie américaine estime qu’il devrait y avoir une transparence totale sur la définition, la provenance, la composition et la qualité des données utilisées pour développer des outils d'IAM. 

Les académiciens américains estiment aussi que la question d'une transparence algorithmique totale ou partielle est essentielle à aborder lors du développement des applications de l'IAM. Les développeurs, les patients et les professionnels de santé doivent s'entendre sur le niveau de transparence nécessaire pour créer la confiance dans l'usage de l'IAM.

Ce sont des questions-clés pour les organismes de réglementation de l'IAM et les utilisateurs cliniques, qu'ils soient professionnels de santé ou patients. Les exigences de transparence peuvent être différentes selon le risque encouru et l'utilisation prévue de l'IAM. Enfin, l’Académie américaine conseille de séparer clairement le mode de recueil des données de santé, les solutions algorithmiques proposées et les performances attendues lors du nécessaire dialogue entre les développeurs d’applications d’IAM et leurs utilisateurs.

L'objectif à terme de l'IAM doit être une intelligence humaine augmentée plutôt qu'une IAM complètement automatisée et indépendante de l'intelligence humaine.

Pour les académiciens américains, l'IAM doit se concevoir comme un soutien aux cliniciens qui sont aujourd'hui totalement dépendants de l'avis des médecins spécialistes, quel que soit le motif. L'IAM peut jouer le rôle d'un filtre pour séparer les cas cliniques simples ou normaux des cas cliniques plus complexes qui doivent relever de l'expertise des médecins spécialistes. L'IAM doit aider le médecin à corriger ses inattentions ou ses insuffisances dues, par exemple, à une fatigue liée à un travail trop dense ou soumis à de multiples contraintes de l'environnement.

Il faut que les outils de l'IAM soient centrés sur les besoins de l'intelligence humaine. Les erreurs d'une machine d'IAM totalement indépendante seront moins bien acceptées par les patients qu'une erreur humaine que le médecin peut expliquer. 

Et les académiciens de conclure que le dialogue à court terme autour de de l'usage de l'IAM dans les soins de santé doit se concentrer sur la promotion, le développement et l'évaluation d'outils qui soutiennent les humains plutôt que ceux qui visent à les remplacer par une automatisation complète de l'algorithme.

Il faut élaborer et déployer des programmes de formation appropriés pour soutenir l'usage de l'IAM dans les soins de santé.

Compte tenu de l'impact que les systèmes d'IAM auront sur l'organisation des soins, le paysage médical traditionnel évoluera. L'enseignement universitaire sur l'IAM doit être multidisciplinaire avec les développeurs, les responsables du système de santé, les équipes professionnelles de premier recours, les éthiciens, les humanistes, les patients et les soignants, chacun  de ces métiers apportant un ensemble d'exigences et d'expertises nécessaire.    

Pour l'Académie américaine de médecine, l'enseignement universitaire doit désormais intégrer l'approche scientifique du traitement algorithmique des données de santé et tous les services que peut apporter l'IAM. Les  besoins des professionnels de santé en activité doivent être satisfaits par un programme de formation continue qui leur permette d'être des utilisateurs avisés de l’IAM. Des programmes réguliers de mise à jour des compétences doivent être institués tant que le développement de l'IAM aura un impact significatif sur la progression de l'intelligence humaine. Enfin, et ce n'est pas le moindre, des programmes de formation à l'usage des services de l'IAM doivent être engagés auprès des consommateurs "patients" de ces services.

Elaborer des recommandations et des guidelines sur les meilleures pratiques de l'IAM 

Les défis liés à l'opérationnalité des technologies de l'IAM dans les systèmes de santé sont considérables,  malgré le fait qu'il s'agit de l'un des secteurs de la recherche biomédicale qui a la plus forte croissance depuis quelques années. La communauté professionnelle qui utilise l'IAM doit élaborer un cadre décrivant les meilleures pratiques d’IAM qu'il importe de mettre en œuvre. Cette communauté professionnelle doit faire connaître aux cliniciens et aux patients les meilleures pratiques qui existent en matière d'inclusion des données de santé, d’approche éthique de leur collecte et de leur traitement, de mise en oeuvre de logiciels et d'algorithmes adaptés aux besoins identifiés, d'interaction possible entre la machine learning et l’intelligence humaine.

Les outils d'IAM ne devraient être utilisés que dans les cas où d'autres solutions technologiques se révèlent plus faibles ou inférieures aux possibilités offertes par l’IAM. Une mise en œuvre réussie de l'IAM a besoin de l'engagement de multiples intervenants du domaine de la santé: dirigeants d’établissements, développeurs d'IAM, organismes de réglementation, professionnels de santé, patients, etc.

Une des clés de la réussite des projets d'IAM passe par la mise en place d’une stratégie qui s'appuie sur une gouvernance robuste et compétente dans les technologies numériques, en particulier dans celles de l'IAM. Ainsi, les pouvoirs publics doivent être en mesure de fournir une capacité technologique de déploiement de l'IAM dans des environnements aux ressources numériques plus faibles et où les capacités informatiques sont moins robustes. C'est une question d'équité pour que toute population puisse bénéficier des progrès apportés par l'IAM.

Les académiciens suggèrent aussi que l'IAM dépasse les simples questions de données biologiques et puisse s'élargir au traitement de déterminants sociaux et aux risques psycho-sociaux après avoir obtenu le consentement des personnes.

Avoir une réglementation souple vis à vis de l'IAM pour que l'innovation suscite à la fois de la confiance et de la sécurité.

Les applications d'IAM ont la capacité puissante d'améliorer la santé des patients. Cela est aujourd'hui démontré dans le traitement des images médicales et dans le traitement personnalisé de certains cancers. Mais certaines applications ont aussi une capacité de nuisance si l'évaluation préalable du rapport bénéfices/risques est inappropriée. L'IAM peut être à l'origine d'erreurs diagnostiques, cela a déjà été démontré, et d'intrusions inacceptables dans la vie privée des personnes, ainsi que d'autres préjudices.

Malgré ces risques, la réglementation doit rester souple (soft-Law), en s'appuyant davantage sur des recommandations de bonnes pratiques et de bons usages de l'IAM que sur un cadre général d'obligations réglementaires. Aux Etats-Unis, le Congrès américain et la Food and Drug Administration ont choisi une  approche graduée de la réglementation de l'IAM basée sur le niveau de risque encouru par les patients, le niveau d'autonomie de l'IAM et d'autres critères (voir les billets intitulés "Int.Artificielle (4)" et "Int.Artificielle (6) dans la rubrique "Revue Publications). 

Les académiciens américains estiment que dans la mesure où les systèmes d'apprentissage automatique fondés sur un apprentissage continu à partir de nouvelles données fournies à l'algorithme existent, les organismes de réglementation devraient adopter des mécanismes de surveillance post-vente pour assurer le maintien (et idéalement l'amélioration) de performances de haute qualité.  

La responsabilité liée au déploiement d'algorithmes d'IAM continue d'être un domaine émergent qui fait débat. En effet, que ce soient les organismes de réglementation, les tribunaux ou les industries de gestion des risques, tous s’interrogent sur la manière d'aborder cette question. Il devient toutefois nécessaire d'avoir une réglementation sur la responsabilité des utilisateurs d'IAM lorsqu'il s'agit d'évaluer les risques et les bénéfices des applications.

Les organismes de réglementation doivent inciter les intervenants et les experts d'IAM à évaluer de façon­ continue les services cliniques rendus par l'IAM afin de juger de son efficacité et de son innocuité. Tout au long de ce processus d'évaluation, la transparence totale ou partielle des algorithmes peut aider à trouver les bonnes solutions.

Enfin, pour permettre à la fois le développement et la surveillance de l'IAM, les organismes gouvernementaux doivent investir dans une infrastructure qui favorise la collecte des données de santé la plus large possible, en conformité avec les règles éthiques qui permettent l'accès à ces données, afin de favoriser la construction de solutions fiables et pérennes d'IAM.

27 décembre 2019