Ben Riley a consacré ces dernières années à alerter sur les dangers de s’appuyer sur l’intelligence artificielle pour des décisions cruciales, une tâche qui a pris une résonance particulière après la perte de son père, Joe Riley. Ce dernier, neuroscientifique à la retraite de 75 ans vivant à Seattle, était persuadé, en raison des outils d’IA, que ses médecins se trompaient au sujet de sa leucémie et que le traitement proposé ne ferait qu’aggraver son état. Joe a posé de manière obsessionnelle des questions sur son état aux chatbots comme Perplexity, a généré un “rapport de recherche” convaincant et l’a utilisé pour contredire son oncologue, sa famille et même les scientifiques dont il avait mal interprété les travaux.
Dans les mots de Teddy Rosenbluth, “Penses-tu vraiment en savoir plus qu’eux seulement à cause de ce rapport d’IA ?” Ben se souvient avoir demandé. “Oui,” a répondu Joe avec fermeté. Malheureusement, lorsque Joe a finalement accepté de suivre un traitement, il était trop affaibli et il est décédé fin 2025. Ben, qui rédige une newsletter critique sur l’IA, ne prétend pas que l’IA ait directement causé la mort de son père, mais il soutient que les résultats trompeurs, présentés comme autoritaires, ont contribué à une décision fatidique, malgré l’expérience de Joe dans le domaine technologique et les soins médicaux reçus. “Je me demanderai toujours si j’ai agi trop tard,” a-t-il écrit dans un essai en janvier. “Rien ne peut changer le passé, bien sûr, mais je continuerai à éveiller la conscience des autres.”
Points à retenir
- La dépendance croissante à l’IA dans les décisions médicales soulève des questions éthiques importantes.
- Les résultats générés par l’IA doivent être recoupés avec des avis médicaux professionnels.
- Il est crucial de sensibiliser le public sur les limites de l’intelligence artificielle.
- L’expérience personnelle d’un individu peut être enrichissante pour la discussion sur les technologies émergentes.
En réfléchissant à cette histoire, on ne peut s’empêcher de se demander quel équilibre est à trouver entre l’utilisation des outils numériques et le jugement humain. Les promesses de l’intelligence artificielle sont immense, mais ses implications sur des vies humaines sont tout aussi considérables. Dans un monde où ces technologies évoluent rapidement, il est primordial d’adopter une approche critique et réfléchie pour éviter des erreurs aux conséquences fatales.