Selon une étude, les chatbots ont réussi à poser le bon diagnostic dans plus de 90 % des cas lorsqu’ils avaient accès à toutes les informations pertinentes.
Cependant, certaines personnes utilisant des modèles linguistiques avancés comme ChatGPT ou Grok pourraient suivre des conseils médicaux erronés générés au cours des premières phases, a averti le responsable de l’équipe de recherche. Ces utilisateurs pourraient par exemple demander des biopsies alors qu’ils n’ont pas de cancer ou retarder des traitements pour des maux de tête qui peuvent être le signe d’un AVC.
“Il ne faut pas simplement faire confiance à ce que dit le chatbot,” a déclaré le Dr. Marc Succi, directeur exécutif de l’incubateur MESH, lors d’un entretien. “C’est un bon point de départ, mais un contrôle humain est nécessaire.”
Par “humain”, Succi faisait référence à un professionnel de santé capable d’interroger le patient, d’examiner son dossier médical, de réaliser des tests diagnostiques, de réduire les diagnostics possibles et d’initier le traitement immédiatement si la situation l’exige.
“Une partie du métier de médecin consiste à établir un diagnostic différentiel initial et à affiner les possibilités grâce à des questions précises et des examens physiques,” a ajouté Succi, qui est également professeur associé de radiologie à la Harvard Medical School.
L’équipe de recherche a examiné 21 modèles linguistiques généralistes, y compris les dernières versions de ChatGPT, DeepSeek, Claude, Gemini et Grok. Les chercheurs ont progressivement fourni à chaque chatbot des informations sur 29 cas médicaux publiés, comprenant des troubles courants tels que l’insuffisance cardiaque et les grossesses ectopiques.
Les performances des chatbots étaient insuffisantes lorsqu’il s’agissait de proposer des diagnostics différents en fonction de l’âge, du sexe et des symptômes. Ce n’est qu’après avoir fourni les résultats d’un examen physique et de tests de laboratoire que les chatbots ont commencé à se rapprocher du bon diagnostic.
“Ces modèles excellent à nommer un diagnostic final une fois que les données sont complètes, mais ils rencontrent des difficultés au début d’un cas, quand les informations sont limitées,” a expliqué Arya Rao, auteur principal de l’étude et chercheur à MESH, ainsi qu’étudiant en médecine à Harvard.
Face à la pénurie de médecins de soins primaires, le plus grand système de soins de santé du Massachusetts, MGB, a lancé en septembre un appel d’application AI appelé Care Connect, qui inclut un chatbot. Il prend des demandes 24/7, questionne les patients, consulte les dossiers médicaux, et fixe un rendez-vous de télémédecine avec un médecin en moins de trente minutes.
Le Dr. Rajesh Patel, vice-président de l’expérience patient numérique chez MGB, a souligné que le chatbot de ce système de santé est très différent de ceux utilisés par des personnes cherchant des diagnostics.
“Le chatbot AI dans Care Connect est utilisé pour réaliser un intake médical afin d’accélérer les rendez-vous avec nos cliniciens — il ne pose pas de diagnostics,” a-t-il précisé. “Les patients voient toujours un clinicien qui diagnostique, traite et suit leurs cas…. Ce modèle soutient en fait les conclusions de cette étude, à savoir que l’implication d’un médecin est essentielle dans la prise de décision médicale.”
Points à retenir
- Les chatbots peuvent être efficaces pour le diagnostic lorsque tous les éléments d’information sont disponibles.
- Des conseils médicaux incorrects pourraient inciter des patients à retarder des traitements urgents.
- L’importance d’un professionnel de santé pour valider les diagnostics est soulignée.
- La recherche a évalué différents modèles de langage pour comprendre leurs limites en matière de diagnostic médical.
- MGB a développé une solution AI pour améliorer l’accès aux soins, tout en garantissant un suivi humain.
Il est fascinant de constater comment la technologie évolue dans le domaine médical, mais cela soulève également des questionnements éthiques importants. La convergence entre intelligence artificielle et médecine nécessite un équilibre délicat : la technologie peut-elle réellement remplacer le jugement humain, ou doit-elle rester un outil de soutien ? Pour ma part, je pense que la collaboration entre l’humain et la machine est l’avenir, et que cette synergie pourrait révolutionner notre approche des soins de santé.