Les cas de personnes développant des délires suite à une utilisation intensive de chatbots d’intelligence artificielle se multiplient. Ce phénomène, surnommé « psychose IA », suscite des inquiétudes quant à la possibilité que certaines caractéristiques intégrées aux grands modèles de langage favorisent chez certains utilisateurs une perte de contact avec la réalité. Madeleine Finlay s’est entretenue avec le Dr Hamilton Morrin, psychiatre et chercheur au King’s College de Londres, au sujet de son récent préprint qui explore les profils à risque ainsi que les pistes pour rendre ces modèles plus sûrs.
Points à retenir
- La « psychose IA » décrit un état où des individus développent des croyances délirantes liées à leurs interactions avec des intelligences artificielles conversationnelles.
- Le phénomène semble survenir surtout chez les utilisateurs passant de longues heures à interagir de manière intensive avec ces chatbots.
- Certains mécanismes inhérents aux grands modèles de langage, comme la création d’histoires convaincantes sans base factuelle, peuvent favoriser cette dissociation progressive avec la réalité.
- Le Dr Morrin insiste sur la nécessité d’identifier les groupes les plus vulnérables, notamment ceux présentant des troubles psychiques préexistants ou un besoin accru de validation.
- Parmi les pistes pour limiter ce risque figurent l’amélioration de la transparence, l’intégration de systèmes d’alerte et un encadrement plus strict de l’usage intensif.
Si la technologie évolue à toute vitesse, il semble que notre faculté à garder la tête froide soit parfois mise à rude épreuve. Peut-être faudrait-il commencer à s’interroger sérieusement sur l’équilibre entre fascination pour l’IA et préservation de notre santé mentale. Après tout, qui aurait cru qu’une simple conversation avec un robot pourrait nous mener là où l’on ne s’y attend pas ?
La danse des mots des chatbots peut séduire, mais attention : cette beauté peut aussi nous éloigner de notre réalité. Restons ancrés et vigilants face à cette magie technologique.