Psychiatres mettent en garde : risque de psychose lié à l’utilisation excessive des chatbots IA !

La large diffusion des chatbots basés sur l’intelligence artificielle a ouvert un nouveau débat au sein de la psychiatrie moderne. Dans des hôpitaux universitaires aux États-Unis et en Europe, des médecins commencent à remarquer un phénomène inquiétant : des patients font leur apparition avec des délires intenses après avoir interagi de manière prolongée et personnalisée avec des systèmes de conversation intelligents.

Bien que ce phénomène ne soit pas encore catégoriquement défini, les spécialistes ont proposé le terme « psychose associée à l’utilisation de chatbots ». Cela représente une hypothèse clinique qui cherche à expliquer pourquoi, dans certaines situations, l’interaction avec ces technologies semble coïncider avec l’émergence ou l’aggravation d’idées délirantes.

Les experts ont documenté de nombreux cas potentiels de psychoses délirantes. Selon une enquête menée par le Wall Street Journal, certains de ces épisodes ont conduit à des suicides et au moins un à un homicide.

Dans la pratique clinique, les symptômes observés ressemblent à ceux d’autres psychoses connues : les patients présentent des croyances fixes, un raisonnement rigide et, dans certains cas, un déclin des fonctions sociales. Ce qui est particulier, c’est que beaucoup rapportent avoir passé des semaines, voire des mois, à converser presque exclusivement avec un chatbot, qu’ils considèrent comme étant profondément compréhensif, intentionnel, voire conscient.

Selon des psychiatres consultés, plusieurs de ces patients ne présentaient pas d’antécédents psychotiques évidents. Dans d’autres cas, des facteurs de vulnérabilité comme la dépression, des troubles de l’humeur ou un manque sévère de sommeil ont pu agraver la situation. La question centrale est de savoir si l’IA joue un rôle déclencheur, amplificateur ou si elle est simplement un spectateur dans le processus.

Keith Sakata, psychiatre à l’Université de Californie à San Francisco, souligne que le problème réside dans la manière dont le système interagit. Contrairement à d’autres objets technologiques, les chatbots acceptent la narration de l’utilisateur et l’approfondissent sans jamais la contester, ce qui peut consolider des croyances maladives chez des individus vulnérables.

“La personne narre sa réalité délirante au système, qui l’accepte comme vraie et la renforce”, a déclaré Sakata.

La littérature psychiatrique mentionne depuis longtemps la tendance des délires à intégrer des éléments technologiques. Toutefois, les spécialistes insistent sur un point crucial : les chatbots ne sont pas des objets passifs, mais des interlocuteurs actifs qui répondent, valident les émotions et prolongent les échanges.

Cette capacité à simuler une relation durable suscite des inquiétudes. Adrian Preda, professeur de psychiatrie à l’Université de Californie à Irvine, fait remarquer qu’il n’existe pas de précédent historique d’une technologie dialoguant de manière si continue et adaptative avec l’utilisateur, renforçant une seule ligne de pensée sans introduire d’éléments perturbateurs.

Certains cas cliniques documentés illustrent des délires de grandeur ou mystiques, où des patients croient avoir établi un contact avec une intelligence supérieure ou se voient choisis pour une mission transcendante. Dans d’autres, ce sont des croyances plus intimes, comme communiquer avec des défunts ou maintenir un lien exclusif avec l’IA.

Une étude danoise récemment publiée a apporté des données préliminaires au débat. En examinant des dossiers médicaux électroniques, les chercheurs ont identifié de nombreux patients dont l’usage intensif des chatbots coïncidait avec des conséquences négatives pour leur santé mentale. Bien que cette étude ne prouve pas de causalité, elle souligne la nécessité d’examiner ce phénomène de manière systématique.

Aux États-Unis, une étude de cas publiée a décrit l’hospitalisation répétée d’une jeune femme persuadée qu’un chatbot lui permettait de dialoguer avec son frère décédé. Pour les auteurs, ce cas illustre comment un système conçu pour être empathique peut, sans protections suffisantes, renforcer une vision délirante de la réalité.

“Ces systèmes simulent des relations humaines. Rien dans l’histoire n’a jamais fait cela auparavant”, a expliqué Preda.

Les entreprises technologiques elles-mêmes reconnaissent les défis. OpenAI a déclaré travailler à améliorer la détection des signaux de détresse psychologique et à réorienter les utilisateurs vers un soutien humain lorsqu’une conversation dérive vers des contenus délicats. D’autres compagnies, comme Character.AI, ont mis en place des restrictions d’accès pour les mineurs à la suite de poursuites judiciaires liées à des suicides.

Le débat a également pris une dimension légale, avec des poursuites pour négligence sur les conditions de santé mentale extrêmes associées à certains chatbots. Bien que ces procédures en soient à leurs débuts, elles préfigurent une discussion plus large sur la responsabilité des plateformes face aux utilisateurs en crise.

D’un point de vue épidémiologique, la portée du problème reste incertaine. OpenAI a signalé qu’une fraction minime de ses utilisateurs montre des signes compatibles avec des urgences psychiatriques. Cependant, appliqué à des centaines de millions d’utilisateurs, même un pourcentage infime devient significatif pour la santé publique.

Pour des chercheurs tels que Hamilton Morrin, du King’s College de Londres, la prochaine étape consiste à analyser de vastes bases de données de santé publique afin de détecter des motifs récurrents. Seules des séries suffisamment nombreuses permettront de différencier coïncidences et corrélations significatives.

Les psychiatres insistent sur la nécessité d’éviter les conclusions simplistes. Nul ne prétend que les chatbots provoquent des psychoses de manière directe et générale. L’hypothèse la plus prudente est qu’ils peuvent agir comme un facteur de risque supplémentaire chez certains utilisateurs, comparable à la consommation de substances ou à l’isolement social.

“Il faut se demander pourquoi une personne développe un état psychotique lorsqu’elle utilise un chatbot de manière intensive”, indique Joe Pierre, psychiatre à l’Université de Californie.

Les récents développements dans de nouveaux modèles, censés réduire les réponses complaisantes et renforcer les limites des conversations, visent à atténuer ces risques. Cependant, les experts soulignent que la technologie avance plus vite que l’évidence clinique et la réglementation.

Dans les cabinets, la réponse est déjà tangible : de plus en plus de psychiatres demandent à leurs patients combien de temps ils passent avec des chatbots et dans quel but. Ce ne sont pas des jugements moraux, mais plutôt une partie intégrante de l’évaluation d’un environnement numérique devenu indissociable de notre quotidien.