ChatGPT parviendra-t-il en France à supplanter Mon Espace Santé dans l'aide apportée aux citoyens pour qu'ils s'orientent dans un parcours de soins ?

Chat GPT-3 (Generative Pre-trained Transformer 3) a été commercialisé par la société OpenAI à la fin novembre 2022. Après les deux premières versions (ChatGPT-1 en 2016 et ChatGPT-2 en 2019) qui ont eu peu de succès, la troisième version a des potentialités nouvelles grâce à une base de données qui s'est considérablement enrichie par rapport aux précédentes versions, Wikipédia ne correspondant plus qu'à 3% des quelque 175 milliards de données. De quelles données s'agit-il ? GPT-2 était capable d'écrire des articles de presse et des oeuvres de fictions. GPT-3 a des données encyclopédiques considérables et bouscule les méthodes traditionnelles d'évaluation des connaissances des élèves et étudiants dans les lycées et universités (https://www.lemonde.fr/podcasts/article/2023/02/03/chatgpt-gadget-ou-revolution-de-l-intelligence-artificielle_6160336_5463015.html).

Sans connaître toutes les sources de données de cette IA, ChatGPT-3 assure utiliser des données de santé personnelles ou figurant dans des articles scientifiques médicaux, lui permettant d'affirmer trois avantages lorsque la requête suivante lui est faite : "Quels sont les avantages, les défis, les pièges et les perspectives d’avenir de ChatGPT en médecine clinique ?"

1) Accès à des informations à jour: ChatGPT peut accéder à de grandes quantités de données médicales et fournir des réponses précises et en temps réel aux questions cliniques.

2) Amélioration de l’engagement des patients: ChatGPT peut fournir aux patients un moyen pratique et accessible d’obtenir des réponses à leurs questions médicales et de suivre leurs informations de santé.

3) Réduction de la charge de travail pour les professionnels de santé: ChatGPT peut aider à réduire le fardeau administratif des professionnels de santé, leur permettant de se concentrer davantage sur les soins aux patients.

Il signale également trois défis à surmonter :

1) Problèmes de confidentialité des données: ChatGPT peut soulever des préoccupations en matière de confidentialité car il a accès à de grandes quantités d’informations personnelles sur la santé.

2) Précision incohérente: ChatGPT peut ne pas toujours fournir des réponses précises, en particulier pour les questions médicales complexes.

3) Biais dans les données d’entraînement: ChatGPT est seulement aussi bon que les données sur lesquelles il a été formé. Si les données de formation sont biaisées, le modèle peut perpétuer ce biais.

Enfin, il précise la possibilité de deux pièges :

1) Informations trompeuses: ChatGPT ne remplace pas un professionnel de santé, et des informations incorrectes ou trompeuses peuvent causer un préjudice aux patients.

2) Dépendance à la technologie: ChatGPT peut devenir une béquille pour les professionnels de santé, réduisant leur capacité à diagnostiquer et à traiter les patients en dehors du recours à la technologie.

(The potential impact of ChatGPT in clinical and translational medicine  Christian Baumgartner Clin Transl Med 2023 Mar;13(3):e1206.  doi: 10.1002/ctm2.1206.)

L'organisation de la médecine de soin primaire pourrait-elle bénéficier de ChatGPT ?

La même question pourrait être posée vis à vis d'autres IA grand public comme Google Bard. ChatGPT-3 est-il capable de communiquer des informations en santé qui seraient utiles aux citoyens s'ils utilisent cette application (payante) ? L'idée d'un chatbot pour orienter un citoyen dans un parcours de soins n'est pas nouvelle. Le NHS au Royaume-Uni a expérimenté en 2018 le chatbot Babylon Health. Cette IA était construite sur des données de santé correspondant aux motifs d'appels des citoyens anglais pour des soins non-programmés, l'équivalent en France du Centre 15.

La requête auprès de ChatGPT peut-elle être ciblée sur un symptôme simple que ressent le citoyen ou un besoin d'accompagnement ou de prévention ? En clair, cette IA est-elle capable d'orienter une personne dans un parcours de soins primaire ou peut-elle parfois se substituer à l'avis donné par un professionnel de santé ? En appliquant le principe de Garantie Humaine à la réponse donnée par une IA à la suite d'une requête, nous évaluons ici la fiabilité des réponses données vis à vis de symptômes uro-néphrologiques. (https://esante.gouv.fr/agenda/lancement-du-premier-label-de-garantie-humaine-de-lintelligence-artificielle#:~:text=Reconnu%20%C3%A0%20l'%C3%A9chelle%20fra%C3%A7aise,au%20long%20de%20leur%20%C3%A9volution). Nous choisissons quelques symptômes courants de la sphère uro-néphrologique, l'auteur du billet étant néphrologue. On propose de suivre la démarche éthique de la Garantie Humaine (GH) vis à vis des réponses données par ChatGPT.

1ére requête : J'ai des brûlures en urinant. Peux-tu me conseiller ?

Réponse de ChatGPT : Tu as peut-être une infection des voies urinaires. Tu devrais aller voir un médecin pour en avoir le coeur net.

Nouvelle requête : En attendant de voir mon médecin, que me conseilles-tu pour me soulager ?

Réponse de l'IA : Tu pourrais prendre des suppléments de vitamines et de minéraux pour améliorer ton système immunitaire et boire beaucoup d'eau pour hydrater les voies urinaires et réduire les symptômes, voire prendre un médicament en vente libre pour une infection urinaire et un granulat d'acide citrique pour rééquilibrer le pH des urines.

Nouvelle requête : ce n'est pas la première fois que j'ai ces brûlures urinaires.

Réponse de l'IA : alors il est possible que tu aies une infection chronique des voies urinaires. Tu devrais absolument aller voir un médecin et demander un traitement plus fort pour guérir. Dans l'intervalle, tu pourrais prendre des mesures supplémentaires pour maintenir un système urinaire sain comme un changement de régime alimentaire, la prise de suppléments nutritifs, l'exercice régulier et une consommation modérée d'alcool.

Commentaires de GH : vis à vis du symptôme de brûlures urinaires, ChatGPT oriente bien la personne vers un médecin, surtout si l'IA a l'information de brûlures urinaires récidivantes. En attendant de voir le médecin, la bonne réponse est d'augmenter l'hydratation qui indiscutablement améliore le symptôme en quelques heures. En revanche, certaines réponses sont plus fantaisistes et correspondent aux habitudes des citoyens américains qui disposent de certains médicaments en vente libre. En France, la personne s'adresserait d'abord à un pharmacien d'Officine. La dernière réponse rappelle des mesures d'hygiène générales qui ne sont pas spécifiques au risque d'infection urinaire.

2ème requête : je rencontre des difficultés à uriner, je dois pousser pour vider ma vessie. Peux-tu me conseiller ?

Réponse de ChatGPT : l'IA est en difficultés et demande des précisions 1) est-il douloureux pour toi d'uriner ? 2) Ce n'est pas douloureux, est-ce juste épuisant ?

Pour la réponse 2, l'IA redemande encore des précisions : as-tu déjà subi des examens médicaux pour cela ?

Si la réponse est négative : je te recommande de voir un médecin pour en savoir plus sur les causes de vos difficultés à uriner

Pour la réponse 1 : ça a l'air douloureux ! Tu devrais consulter un médecin pour en savoir plus et déterminer la cause de ton problème. Une intervention chirurgicale pourrait être nécessaire.

Commentaires de GH : les réponses conduisent bien in fine la personne à consulter un médecin. Dans cette situation, l'IA n'a pas donné des réponses erronées, mais elle n'est pas capable d'évoquer un diagnostic, ce qui est normal pour une IA qui n'est pas à proprement parlé médicale.

3ème requête : On m'a découvert à la médecine du travail de l'albumine et du sang dans mes urines. Que dois-je faire ?

Réponse de ChatGPT : Il est important que tu te rendes rapidement chez ton médecin pour vérifier ton état de santé.

Commentaires de GH : la réponse de l'IA est tout à fait pertinente, la personne doit consulter rapidement son médecin traitant.

4ème requête : j'ai 50 ans. J'ai fait prendre ma tension artérielle à la pharmacie. Elle est anormalement élevée après 5 min de repos (160/96 mmHg). Je ne prends aucun médicament. Je ne ressens aucun symptôme. Que dois-je faire ?

Réponse de ChatGPT : Il est important de discuter avec ton médecin pour obtenir un diagnostic et des conseils. Le médecin prendra en compte ton histoire médicale et peut te prescrire des examens pour déterminer la cause de cette hypertension artérielle. En attendant ton rendez-vous chez le médecin, essaie d'adopter un mode de vie sain en limitant ta consommation d'aliments salés, en faisant de l'exercice régulièrement et en limitant ta consommation d'alcool et de tabac.

Commentaires de GH : à nouveau la réponse de l'IA est pertinente. L'algorithme souligne l'importance de consulter le médecin traitant. En attendant la consultation médicale, il prodigue des conseils tout à fait justifiés : réduire la charge en sel dans l'alimentation, limiter la consommation d'alcool et de tabac, pratiquer l'exercice physique. Tous ces conseils, de nature "non pharmacologique", peuvent contribuer à diminuer l'hypertension artérielle, mais probablement pas à la normaliser à 50 ans.

ChatGPT peut-il avoir un impact positif en prévention primaire ?

Nous proposons de faire une requête dans 3 situations : une surcharge pondérale, une addiction au tabac et à l'alcool, une sédentarité.

1ère requête : j'ai une surcharge pondérale et je voudrais maigrir. Que me conseilles-tu ?

Réponse de ChatGPT : je te suggérerais de commencer par faire des modifications à tes habitudes alimentaires. Essaie de limiter tes portions et choisis des aliments sains et nutritifs. Essaie également de manger des fruits et des légumes et de limiter l'apport en sucre et en graisses saturées. Une autre façon de te sentir mieux et de renforcer ton corps est de faire de l'exercice. Essaie de trouver une activité physique que tu aimes et que tu peux faire facilement. Tu peux essayer des activités comme la marche, le yoga, la natation.

Commentaires : les conseils donnés par ChatGPT sont pertinents, mais ne sont pas suffisants pour un état d'obésité morbide (IMC > 30kg/m2). Même pour une simple surcharge pondérale (IMC < 30kg/m2) il n'est pas certain que la personne puisse y parvenir sans être accompagnée d'un professionnel de santé (diététicien, médecin traitant, nutritionniste, autres). La réponse de ChatGPT n'évoque pas l'aide d'un professionnel de santé, ni l'éventualité de maladies associées (diabète, hypertension, etc.) qui rend l'approche plus complexe.

2ème requête : j'ai une addiction au tabac et à l'alcool. Je voudrais m'en libérer. Que me conseilles-tu ?

Réponse de ChatGPT : je te suggère d'essayer la méthode du sevrage progressif. Elle consiste à réduire progressivement ta consommation jusqu'à ce que tu puisses t'en passer complètement. D'autres méthodes peuvent inclure l'utilisation de remèdes à base de plantes et de médicaments, la thérapie par la parole, et d'autres traitements de soutien. Pense à te renseigner sur toutes les options disponibles pour un traitement efficace.

Commentaires : ChatGPT ne suggère pas l'aide d'un professionnel de santé. Le sevrage d'une addiction alcoolo-tabagique est difficile sans l'aide d'un professionnel de santé spécialisé dans les addictions.

3ème requête : j'ai un métier trop sédentaire. Je voudrais développer une activité physique. Que me conseilles-tu ?

Réponse de ChatGPT : la première chose que je te suggérerais de faire est de trouver une activité physiques que tu aimes faire. Tu peux essayer le yoga, la marche, la course à pied, la natation, le cyclisme ou même des sports d'équipe. Ensuite, tu prends le temps d'établir un plan cohérent et réaliste pour intégrer cette activité physique dans la routine. Fais des séances régulières et prends le temps de sentir une amélioration. Tu devrais également prendre le temps de penser à ton alimentation en fonction des objectifs.

Commentaires : les conseils sont pertinents, mais ChatGPT ne personnalise pas suffisamment la demande (quel métier, quel âge, quel sexe, etc. ?).

Perspectives et conclusions

ChatGPT précise lui-même les perspectives d'évolution de son IA qui travaille en apprentissage profond (Deep Learning) (The potential impact of ChatGPT in clinical and translational medicine Christian Baumgartner Clin Transl Med 2023 Mar;13(3):e1206. doi: 10.1002/ctm2.1206.) :

1) Amélioration de la précision: Au fur et à mesure que davantage de données sont collectées et analysées, la précision de ChatGPT est susceptible de s’améliorer.

2) Intégration avec les dossiers de santé électroniques (DSE): ChatGPT a le potentiel d’être intégré aux DSE, permettant un échange d’informations plus transparent entre les professionnels de santé et les patients.

3) Médecine personnalisée: ChatGPT a le potentiel de fournir des conseils médicaux personnalisés basés sur les données individuelles des patients et les antécédents médicaux.

Dans un éditorial du Lancet Digital Health qui vient d'être mis en ligne (ChatGPT: friend or foe ? The Lancet Digital Health  2023 Mar;5(3):e102. doi: 10.1016/S2589-7500(23)00023-7 . Epub 2023 Feb), l'auteur se demande si ChatGPT deviendra un ami ou un ennemi. "L'enthousiasme initial qui a marqué la sortie du chatbot a été assorti d'une série de préoccupations éthiques qui pourraient, ou qui devraient, limiter son adoption." L'éditorial souligne l'intérêt de ChatGPT pour générer des comptes rendus de séjours hospitaliers, d'avoir ainsi un impact favorable sur la durée des séjours et de réduire le travail administratif des soignants. Mais des erreurs ont été mises en évidence, notamment dans les rapports de radiologie, pouvant être préjudiciables aux patients. Et l'auteur de réclamer un contrôle humain des rapports générés par le chatbot (le principe de garantie humaine en France et en Europe). "Les limites de ChatGPT sont connues. De l’aveu même d’OpenAI, les réponses de ChatGPT peuvent être incorrectes ou biaisées, comme citer des références d’articles qui n’existent pas ou bien perpétuer des stéréotypes sexistes". "Bien que ChatGPT puisse servir à démocratiser le partage des connaissances, car il peut recevoir et sortir du texte dans plusieurs langues (bénéfique pour les locuteurs non natifs publiant en anglais), des inexactitudes dans le texte généré pourraient alimenter la propagation de la désinformation." Ces préoccupations ont de graves répercussions sur l’intégrité des dossiers scientifiques, compte tenu du risque d’introduire non seulement des erreurs, mais aussi du contenu plagié dans les publications."

Et l'auteur de l'éditorial de conclure : "L’utilisation généralisée de ChatGPT est apparemment inévitable, mais dans son itération actuelle, une utilisation négligente et incontrôlée pourrait être un ennemi à la fois pour la société et l’édition savante. Plus de prévoyance et de surveillance de la formation des modèles d'IA sont nécessaires, tout comme l’investissement dans des détecteurs d'erreurs qui soient robustes. ChatGPT change la donne, mais nous ne sommes pas tout à fait prêts à lui faire confiance." Précisons enfin qu'une nouvelle version (ChatGPT-4) est en cours de production pour corriger certaines imperfections et erreurs de ChatGPT-3.

En France, l'avènement de ChatGPT pourrait contrarier la volonté clairement affichée des pouvoirs publics en 2019 d'avoir une souveraineté numérique des données de santé des citoyens français. Il est urgent d'en prendre conscience et d'accélérer l'évolution de Mon Espace Santé vers un "dossier numérique de santé centré sur le patient" (https://telemedaction.org/422021881/le-patient-acteur-de-sa-sant) afin que les services offerts par ChatGPT ne viennent pas contrarier tous les efforts accomplis au cours des trois dernières années pour que la plateforme d'Etat MES devienne le pivot du parcours de soins de nos concitoyens.

14 mars 2023