Hypocondria, il suffit de se tourner vers un moteur de recherche. L’Intelligence Artificielle est désormais là, plus douce et apparemment compétente. Cependant, les conseils en matière de santé touchent nos vulnérabilités. Un phénomène culturel potentiellement dangereux.
Chers hypocondriaques, rappelez-vous du célèbre Dr Google ? Un simple mal de tête et vous atterrissiez sur des forums remplis de maladies rares et de statistiques de survie alarmantes. Terrifiant, parfois anxiogène, mais d’un accès démocratique. Aujourd’hui, cette figure a été remplacée par un assistant beaucoup plus aimable, ChatGPT Health, qui a pour ambition de nous aider à comprendre notre santé. Attention, toutefois, ils précisent que leur objectif n’est pas de nous soigner.
Plus de 200 millions de questions hebdomadaires sur la santé
OpenAI a choisi de revêtir la blouse blanche, constatant que des millions de personnes dans le monde se tournent quotidiennement vers l’Intelligence Artificielle comme premier interlocuteur concernant des sintômes, des examens, des régimes alimentaires ou des fatigues inexpliquées. L’entreprise annonce que plus de 200 millions de questions par semaine sont posées sur des problématiques de santé.
Ce phénomène a donné lieu à la création d’un espace spécialement conçu pour interagir, avec des règles rigoureuses en matière de confidentialité et l’engagement qu’aucun médecin ne sera jamais remplacé, même si l’IA peut sembler similaire. ChatGPT Health peut analyser des résultats d’examens, aider à comprendre des valeurs cliniques, interpréter des données sur le sommeil, l’ activité physique et l’alimentation. Elle peut également fournir des suggestions sur les questions à poser au médecin « réel », quels signes surveiller et quelles habitudes observer. Néanmoins, elle ne pose pas de diagnostics ni ne prescrit de traitements, mais elle guide.
Les inquiétudes autour de l’utilisation commerciale de nos données de santé
Un aspect essentiel reste l’orientation fournie. Comme le rappellent souvent les philosophes et les experts en stratégie, une telle orientation est une grande forme de pouvoir. En réponse à des craintes déjà bien ancrées concernant l’utilisation commerciale de nos données sanitaires, OpenAI insiste sur la sécuité: les échanges autour de la santé se déroulent dans un espace isolé, crypté et distinct des autres conversations. De plus, les données ne sont pas utilisées pour entraîner les modèles de base, et l’utilisateur a la possibilité de les supprimer à sa convenance.
Cependant, la véritable question repose sur l’impact psychologique des réponses fournies. Pour légitimer leur projet, OpenAI souligne sa collaboration avec des centaines de médecins dans de nombreux pays et l’examen de nombreuses réponses. Ce qui renvoie un message rassurant : « nous savons établir des limites ». Mais ces limites ne sont pas strictement juridiques, elles sont psychologiques. Elles sont déterminées par l’utilisateur qui lit une réponse et choisit de la considérer comme information ou conseil.
Le risque de l’illusion de compétence
La différence avec le Dr Google réside ici. Ce dernier, brut, était aisément identifiable comme un outil implacable. ChatGPT Health, au contraire, offre des réponses adaptées au contexte, cultivant l’illusion de compétence et l’impression d’une écoute attentive. C’est une illusion toute puissante, surtout en matière de santé, touchant à nos plus profondes vulnérabilités.
On constate d’ailleurs que des controverses ont déjà émergé, notamment en Australie, où un cas lié à un conseil erroné fourni par ChatGPT a ravivé les débats sur la sécurité de l’IA en santé. Les chercheurs et les associations de consommateurs s’inquiètent de l’absence de d’études scientifiques indépendantes et de la difficulté à attribuer les responsabilités.
La prudence européenne face aux nouvelles technologies
Pour l’Europe, la situation est encore observée avec distance. Les pays comme le Royaume-Uni, l’Union européenne et la Suède n’ont pas participé au lancement initial. Les raisons en sont connues ; les données de santé sont considérées comme très sensibles et soumises à des régulations strictes. Le RGPD et la Loi sur l’IA exigent transparence et responsabilité. Autrement dit, il s’agit de savoir qui fait quoi avec quelles données et quelles conséquences. Parfois, le retard européen témoigne plus de prudence que d’inaction.
Un soutien pour des systèmes de santé sous pression
Cela ne signifie pas pour autant que ChatGPT Health est voué à rester à la marge. Au contraire, dans des domaines à faible risque tels que la sensibilisation à la santé, la compréhension des résultats médicaux ou l’orientation dans les parcours de soins, de tels outils pourraient apporter un soulagement aux systèmes de santé sous pression. À condition que la transparence ne soit pas qu’un slogan et que la supervision clinique soit réelle et vérifiable. Au final, ChatGPT Health n’est pas seulement un produit, mais aussi un expérimentation culturelle. Un test de notre volonté de confier à une machine non pas notre santé physique, mais le récit de celle-ci. où Dr Google se présentait maladroitement, Dr ChatGPT s’exprime avec aisance. Cette apparente gentillesse algorithmique rend la question bien plus complexe qu’elle n’y paraît.
Points à retenir
- ChatGPT Health, conçue pour rassurer sans remplacer les médecins.
- Plus de 200 millions de questions sur la santé traitées chaque semaine.
- La dimension psychologique de la confiance en l’IA est cruciale.
- Des préoccupations émergent sur la sécurité des données et des conseils médicaux.
- La prudence européenne face aux nouvelles technologies de santé se renforce.
En prenant un moment de réflexion, je me rends compte de la manière dont nous cherchons à déléguer certaines de nos préoccupations de santé à des mécanismes technologiques. Ce phénomène pose question : jusqu’où sommes-nous prêts à laisser une machine nous orienter dans des zones aussi sensibles que notre santé ? Les répercussions pourraient être profondes, tant sur notre rapport à la médecine que sur la manière dont nous percevons l’Intelligence Artificielle. La discussion autour de ce sujet demeure passionnante et mérite d’être approfondie.