Devenu un assistant quotidien pour beaucoup, ChatGPT est sollicité pour des conseils variés, allant du divertissement à des questions plus sérieuses, telles que la santé. Dans ce domaine, des préoccupations éthiques émergent. Qui n'a jamais recherché ses symptômes sur Google, aboutissant à la conviction erronée d’être atteint d'une maladie rare ? Pour certains, l’IA simplifie la recherche d’informations en synthétisant une vaste gamme de données. Cependant, l'assistance d'une IA ne devrait jamais remplacer un avis médical, mais plutôt l'éclairer. Voici les détails.
ChatGPT, un aperçu
Pour contextualiser, ChatGPT est un programme capable de produire et comprendre du texte en langage naturel, grâce à l'analyse statistique d'un volume massif d'informations. Contrairement à un moteur de recherche qui vous dirige vers des liens, l'IA propose une réponse semblable à celle d'un humain, ce qui peut être populaire dans les domaines où l'on manque de connaissances, comme la médecine.
En soumettant des symptômes, on peut obtenir des diagnostics potentiels ou des informations sur les effets secondaires de médicaments, avec des réponses précises et rapides, à toute heure du jour ou de la nuit.
Un outil aux limites notables
Comme l’indique le Dr Gérald Kierzek dans Doctissimo, l’IA "ne pense pas, elle calcule". Elle agrège une immense quantité de données, mais cela représente à la fois une force et une faiblesse. En effet, chaque situation est unique : des symptômes similaires peuvent conduire à des diagnostics variés lors d'une évaluation médicale. L’IA, elle, se contente de formuler une réponse basée sur des statistiques.
Ce phénomène peut induire en erreur : sa capacité à produire des réponses apparemment bien formulées et pédagogiques pousse les utilisateurs à faire confiance à des informations parfois aléatoires. Le problème majeur est qu'l'IA n'est pas capable de distinguer le vrai du faux ; elle peut parfois donner des informations erronées ou en créer de toutes pièces (les soi-disant "hallucinations").
Par exemple, un article publié par The Conversation en 2023 mettait en avant un cas où ChatGPT proposait une migraine ou une grippe, alors qu'il s'agissait d'une méningite, une affection potentiellement mortelle sans traitement rapide. Ainsi, chercher un diagnostic en ligne peut minimiser des symptômes graves ou, à l'inverse, déclencher une anxiété excessive, ce qui peut être dangereux dans les deux situations.
Un autre aspect préoccupant est que l'IA ne génère des résultats qu'en fonction des informations que vous lui fournissez. Si les données soumises sont inexactes, le résultat le sera également. Le médecin, quant à lui, est formé pour réaliser un examen clinique exhaustif. Selon une étude de Cornell University en 2025, la majorité des utilisateurs d'IA n'ont pas réussi à identifier correctement une maladie ni à élaborer un plan d'action efficace basé sur les résultats générés.
Utiliser l'IA à bon escient
La question est donc, devrions-nous bannir l’IA ? Pas nécessairement. Le Dr Kierzek note que sa capacité à traiter des données peut aboutir même à des diagnostics peu probables, détectant ainsi des pathologies rarissimes. L’IA évite certains biais cognitifs, contrairement à des médecins qui peuvent parfois faillir dans leur jugement face à un patient désespéré, cherchant des solutions en ligne.
Cependant, l'IA ne remplacera jamais le médecin, dont les années d'études et d'expérience lui permettent d’identifier des signaux subtils que ChatGPT ne peut saisir. En outre, un médecin prend en compte l’historique d’un patient et son contexte social, des éléments souvent omis dans des interactions avec une IA.
Il est crucial de se rappeler que l'IA peut faire des erreurs fréquentes: une erreur humaine est compréhensible, mais une IA pourrait générer des résultats souvent inférieurs en termes de fiabilité. Ce phénomène soulève d'importants enjeux éthiques concernant la responsabilité en cas de diagnostic erroné, l’IA n’ayant aucune obligation déontologique ou responsabilité.
Cependant, si l’IA peut proposer des idées diagnostiquer utiles sous certaines conditions, celles-ci doivent être validées par un professionnel de la santé. Il est essentiel de ne pas perdre de vue que parfois, un diagnostic convaincant élaboré par l’IA peut séduire l’utilisateur, renforçant ses croyances personnelles, un biais que l’IA exploite avec aisance.
Il est également vital de soulever la question de l’accès aux soins. Les patients, parfois trop malades pour se déplacer, ressentent la tentation de s’adresser à l’IA, surtout lorsqu'ils font face à des délais d’attente pour les spécialistes. Le recours à l’IA peut alors apparaître comme une option attrayante, bien qu'erronée.
Finalement, la compétition entre l’IA et les praticiens pourrait engendrer des problématiques plus complexes. Face à un système de santé en difficulté, l’automédication guidée par des conseils de l’IA pourrait devenir une tendance, tandis que les médecins pourraient être réticents à adopter l'IA, bien qu'elle puisse être bénéfique dans des cas particuliers. Ce sont principalement les professionnels de santé, forts de leur savoir et de leurs expériences, qui pourraient tirer profit de cette aide technologique.
