Google a décidé de supprimer certains de ses résumés de santé générés par intelligence artificielle (IA), suite à une enquête du Guardian qui a révélé que des informations inexactes et trompeuses mettaient des utilisateurs en danger. La firme affirme que ses « survols AI », qui proposent des aperçus d’informations essentielles sur divers sujets ou questions, sont « utiles » et « fiables ».
Cependant, plusieurs de ces résumés, qui apparaissent en tête des résultats de recherche, contenaient des informations médicales erronées, ce qui exposait les utilisateurs à des risques. Par exemple, dans un cas qualifié de « dangereux », Google a fourni des informations fallacieuses concernant des tests de fonction hépatique cruciaux, laissant des personnes atteintes de maladies hépatiques sérieuses penser à tort qu’elles étaient en bonne santé.
Une recherche avec la question « quel est l’intervalle normal pour les tests sanguins du foie » a renvoyé un véritable fouillis de chiffres, sans contexte et sans distinction basée sur la nationalité, le sexe, l’ethnie ou l’âge des patients.
Les experts ont exprimé leurs inquiétudes, indiquant que le « normal » selon Google pouvait varier considérablement de ce qui est réellement considéré comme normal. Ces résumés pourraient conduire des patients gravement malades à négliger des soins médicaux, croyant avoir des résultats de tests normaux.
A suite de l’enquête, l’entreprise a donc retiré les survols AI pour les requêtes concernant « l’intervalle normal pour les tests sanguins du foie » et « l’intervalle normal pour les tests de fonction hépatique ».
Un porte-parole de Google a déclaré : « Nous ne pouvons pas commenter les suppressions individuelles dans la recherche. Dans les cas où les résumés AI manquent de contexte, nous travaillons à apporter des améliorations générales, et nous prenons également des mesures selon nos politiques lorsque cela est approprié. »
Vanessa Hebditch, directrice de la communication et des politiques pour le British Liver Trust, un organisme de bienfaisance dédié à la santé du foie, a exprimé sa satisfaction concernant la suppression de ces résumés. Cependant, elle a souligné que si la question était posée différemment, un résumé AI trompeur pouvait toujours être généré, laissant planer des doutes sur la fiabilité des informations de santé produites par IA.
Elle a également relevé que des variations des requêtes originales comme « intervalle de référence lft » continuaient à renvoyer des résumés AI, ce qui est préoccupant. Les tests de fonction hépatique (LFT) comprennent divers tests sanguins, et la compréhension des résultats et des actions à entreprendre est complexe, bien au-delà d’une simple comparaison de chiffres.
Hebditch a ajouté : « Les résumés AI ne préviennent pas qu’il est possible d’obtenir des résultats normaux tout en ayant une maladie hépatique grave, ce qui pourrait s’avérer très préjudiciable. »
Bien que Google détienne 91 % du marché mondial des moteurs de recherche, il a indiqué qu’il évaluait de nouveaux exemples signalés par le Guardian. Hebditch a précisé que la préoccupation majeure réside dans le fait que Google ne traite pas le problème plus large de l’IA appliquée à la santé, se contentant de supprimer un résultat en particulier.
Sue Farrington, présidente du Patient Information Forum, organisation qui promeut des informations de santé fondées sur des preuves, a aussi salué la suppression des résumés, tout en demeurant soucieuse de la situation. Elle a déclaré : « C’est un bon résultat, mais il ne s’agit que du premier pas nécessaire pour maintenir la confiance dans les résultats de recherche liés à la santé de Google. »
En effet, des millions d’adultes à travers le monde ont déjà du mal à trouver des informations de santé fiables. Farrington a conclu en soulignant l’importance pour Google de diriger les gens vers des informations de santé validées et des offres de soins provenant d’organismes de santé dignes de confiance.
L’IA continue d’afficher des résumés pour d’autres thèmes dénoncés initialement par le Guardian, notamment sur le cancer et la santé mentale, jugés comme étant « complètement erronés » et « réellement dangereux ». Lorsqu’on lui a demandé pourquoi ces résumés n’avaient pas été également retirés, Google a justifié que ceux-ci renvoyaient vers des sources réputées et informaient quand il était crucial de consulter un expert.
Un représentant a ajouté : « Notre équipe interne de cliniciens a examiné ce qui nous a été partagé et a trouvé que, dans de nombreux cas, l’information n’était pas inexacte et était également soutenue par des sites Web de haute qualité. » Selon Victor Tangermann, rédacteur senior sur le site Futurism, les résultats de l’enquête montrent que Google a du travail à faire pour garantir que son outil IA ne diffuse pas de fausses informations en matière de santé.
Points à retenir
- Des résumés de santé erronés générés par IA de Google ont été retirés après une enquête du Guardian.
- Les informations inexactes pourraient causer des conséquences graves pour la santé des utilisateurs.
- Les experts soulignent l’importance de comprendre le contexte des tests médicaux.
- Les variations de requêtes peuvent toujours mener à des résumés trompeurs.
- La nécessité d’accepter des informations de santé vérifiées reste prépondérante pour la confiance du public.
Il est fascinant de constater à quel point la technologie, en particulier l’IA, peut influencer notre compréhension des informations de santé. En tant que consommateur d’informations, je me sens plus conscient de la nécessité d’exercer un esprit critique face aux données présentées par des algorithmes. Prenons le temps de questionner la qualité et la pertinence des informations que nous recevons et veillons à ce qu’elles soient validées par des experts. La santé est trop précieuse pour être laissée entre les mains d’une IA sans surveillance.