Il est souvent conseillé de ne pas rechercher ses symptômes sur Internet en cas de malaise, mais se fier à ChatGPT pour des conseils médicaux peut aussi conduire à des conséquences graves. C’est ce qu’a découvert un homme de 60 ans, qui s’est retrouvé à l’hôpital après avoir empoisonné son organisme sur les recommandations du chatbot IA.
Ce patient, dont l’histoire est relatée dans les Journaux de l’American College of Physicians, s’inquiétait de sa consommation de sel et de ses effets potentiels sur sa santé. Il a donc décidé de consulter ChatGPT pour savoir comment éliminer le chlorure de sodium de son alimentation.
Le bot IA lui a recommandé de se tourner vers le bromure à la place, une substance que l’on trouve en petites quantités dans l’eau de mer et certains minéraux. Bien qu’autrefois utilisée dans certaines formulations pharmaceutiques, elle a été déclarée toxique pour l’humain en grande quantité.
L’homme a remplacé le chlorure de sodium par le bromure de sodium sur les conseils de ChatGPT.
Ignorant cette mise en garde, l’homme a commencé à remplacer le sel par du bromure qu’il avait commandé sur Internet. Au bout de trois mois, il a commencé à souffrir de paranoïa sévère et d’hallucinations, le conduisant à une hospitalisation.
Bien qu’il n’ait jamais eu de problèmes psychologiques ou physiques auparavant, il a d’abord soupçonné son voisin de l’avoir empoisonné. Après avoir reçu des soins avec des liquides et des électrolytes, il a partagé d’autres symptômes, tels que l’apparition d’acné et d’angiomes cerise, révélant aux médecins qu’il souffrait d’une intoxication au brome.
L’intoxication au brome, ou bromisme, peut causer divers symptômes neurologiques comme des convulsions, des tremblements, de la confusion et même des comas. Elle peut également entraîner de l’anxiété, de la dépression et de la fatigue.
Le rapport de cas indique que l’homme, inspiré par ses études en nutrition, avait décidé de mener une expérience personnelle pour éliminer le chlorure de son alimentation, remplaçant le sel de table par du bromure après avoir consulté ChatGPT, qui lui avait suggéré que le chlorure pouvait être remplacé par le bromure, bien que souvent pour d’autres usages, comme le nettoyage.
Les conditions d’utilisation de ChatGPT précisent que les informations ne sont pas toujours fiables.
Au bout de trois semaines d’hôpital, l’homme a été relâché et l’auteur du cas a averti le public contre la prise de conseils médicaux provenant de sources d’IA, telles que ChatGPT. Dans son rapport, il a souligné l’importance de garder à l’esprit que ChatGPT et d’autres systèmes IA peuvent produire des inexactitudes scientifiques, n’ont pas la capacité d’examiner de manière critique les résultats et peuvent alimenter la désinformation.
Par ailleurs, OpenAI, le développeur de ChatGPT, a rappelé dans ses conditions d’utilisation que les informations fournies ‘peuvent ne pas toujours être exactes’. Les termes précisent : “Vous ne devez pas considérer les résultats de nos services comme une source unique de vérité ou d’informations factuelles, ni comme un substitut aux conseils professionnels.”
Les termes de service de l’entreprise stipulent également : “Nos services ne sont pas destinés à être utilisés pour le diagnostic ou le traitement d’une quelconque condition de santé.”
Points à retenir
- La consultation de conseils médicaux auprès de plateformes d’IA peut entraîner des risques sérieux.
- Le bromisme est une condition résultant d’une exposition excessive au brome, avec divers effets neurologiques.
- Les utilisateurs doivent être informés que les systèmes d’IA peuvent générer des inexactitudes et ne remplacent pas les avis des professionnels de santé.
Cette histoire souligne l’importance de la prudence lorsqu’il s’agit de santé et de bien-être. Dans un monde où les informations circulent rapidement en ligne, les utilisateurs doivent savoir discerner entre conseils avisés et données potentiellement dangereuses. Il est essentiel de toujours consulter un professionnel avant de faire des changements significatifs concernant sa santé.