Une enquête menée par le Guardian révèle que des informations de santé fausses et trompeuses dans les résumés générés par l’intelligence artificielle de Google mettent en danger la vie des utilisateurs. La société affirme que ses résumés AI, qui offrent des aperçus des informations essentielles sur divers sujets, sont « utiles » et « fiables ». Cependant, certains de ces résumés affichés en tête des résultats de recherche contiennent des informations médicales inexactes, ce qui peut être préjudiciable pour les usagers.
Dans un cas jugé « vraiment dangereux » par des experts, Google a conseillé aux personnes atteintes de cancer du pancréas d’éviter les aliments riches en graisses. Les professionnels de santé ont souligné que cette recommandation est totalement erronée et pourrait augmenter le risque de mortalité des patients. Un autre exemple préoccupant concernait la diffusion de fausses informations relatives à des tests de fonction hépatique critiques, laissant des individus atteints de maladies hépatiques graves croire qu’ils étaient en bonne santé.
Des recherches sur les tests de cancer féminin ont également abouti à des informations « complètement erronées », ce qui pourrait amener certaines personnes à négliger des symptômes essentiels. En réponse, un porte-parole de Google a indiqué que plusieurs exemples évoqués étaient des « captures d’écran incomplètes », tout en affirmant que les résultats provenaient de sources réputées et recommandaient de consulter des professionnels.
L’enquête du Guardian survient dans un contexte d’inquiétude croissante concernant la fiabilité des données générées par l’IA, les consommateurs supposant souvent qu’elles sont précises. En novembre dernier, une étude a révélé que des chatbots d’IA sur diverses plateformes fournissaient des conseils financiers incorrects, soulevant des préoccupations similaires au sujet des résumés d’actualités.
Sophie Randall, directrice du Patient Information Forum, a déclaré que ces exemples démontraient que « les aperçus AI de Google peuvent placer des informations de santé inexactes en tête des recherches en ligne, présentant un risque pour la santé des individus ». Stephanie Parker, directrice numérique de Marie Curie, une organisation caritative spécialisée dans les soins en fin de vie, a également mis en garde : « Les gens se tournent vers Internet dans des moments de stress. Si l’information reçue est inexacte ou hors contexte, cela peut gravement nuire à leur santé. »
En réponse aux préoccupations formulées par divers groupes de santé et professionnels, plusieurs cas d’informations médicales erronées ont été mis en lumière. Anna Jewell, directrice de Pancreatic Cancer UK, a affirmé que le conseil d’éviter les aliments gras était « complètement incorrect », mettant potentiellement en danger la capacité d’un patient à subir un traitement.
De plus, rechercher « quelle est la plage normale des tests sanguins hépatiques » a également livré des résultats trompeurs, sans contexte et sans tenir compte de facteurs tels que la nationalité, le sexe ou l’âge des patients. Pamela Healy, directrice générale de la British Liver Trust, a exprimé des inquiétudes sur la précision des résumés de l’IA. Pour certains, des résultats considérés comme « normaux » peuvent ne pas refléter la réalité médicale adéquate.
Une recherche sur les « symptômes et tests du cancer vaginal » a indiqué à tort le frottis comme un test approprié, ce qui a soulevé la colère d’Athena Lamnisos, directrice de la charity Eve Appeal. Elle a fait valoir que de telles informations erronées pourraient empêcher des personnes de se faire examiner pour des symptômes de cancer.
Les résultats trompeurs n’ont pas été limités aux cancers ; des recherches sur des maladies mentales ont également donné lieu à des conseils « très dangereux », a prévenu Stephen Buckley, responsable de l’information chez Mind.
Malgré ces contretemps, Google insiste sur la qualité de ses résumés, affirmant que la majorité d’entre eux fournissent des informations précises tout en promettant d’effectuer des améliorations continues. Un porte-parole a déclaré : « Nous investissons considérablement dans la qualité des résumés AI, en particulier pour des sujets comme la santé, et la plupart d’entre eux fournissent des informations précises. »
Points à retenir
- Les résumés AI de Google peuvent parfois fournir des informations sur la santé qui ne sont pas fiables.
- Des recommandations erronées pourraient nuire aux décisions de santé de personnes atteintes de maladies graves.
- Des organismes de santé s’inquiètent des impacts de ces informations trompeuses sur la santé publique.
- Le manque de contexte dans les résumés d’IA peut fausser la compréhension des symptômes et des tests médicaux.
- Google justifie la qualité de ses informations tout en reconnaissant qu’il existe des problèmes à corriger dans certains cas.
Réfléchissant sur ce sujet, je suis convaincu que la recherche d’informations médicales en ligne devrait être abordée avec une prudence accrue. L’élargissement de notre connaissance sur la santé et la consultation de professionnels demeurent essentielles. À l’ère numérique, où l’IA influence notre recherche d’informations, nous devons rester vigilants et critiques face aux données qui nous sont présentées. Cela soulève des questions sur notre confiance dans les nouvelles technologies et leur impact sur notre santé et notre bien-être.