OpenAI a annoncé ce lundi une mise à jour importante de ChatGPT, visant à détecter davantage les utilisateurs en détresse et à les inciter à demander de l’aide. La société a partagé des données concernant le pourcentage d’utilisateurs ayant des échanges comportant des “indicateurs explicites de possible planification ou intention suicidaire”. Ce chiffre représente 0,15 % des utilisateurs hebdomadaires. Il y a quelques semaines, Sam Altman, le PDG d’OpenAI, a mentionné que ChatGPT comptait 800 millions d’utilisateurs chaque semaine, ce qui signifie qu’environ 1,2 million de personnes pourraient se retrouver dans des situations urgentes.
Pour mieux prendre en charge ces cas, OpenAI a collaboré avec un groupe de 170 spécialistes en santé mentale, issus d’un ensemble de 300 professionnels actifs dans 60 pays. Ces experts ont été sollicités pour améliorer les réponses du chatbot sur des sujets liés à la santé mentale et évaluer la sécurité des interactions proposées par différents modèles.
L’objectif principal d’OpenAI est d’optimiser la détection et l’orientation des personnes dans des situations d’urgence. En août, la société avait été mise en cause par les parents d’un adolescent qui s’était suicidé après avoir discuté pendant des heures avec ChatGPT. Bien que de nombreuses personnes aient recours à ce chatbot comme à un thérapeute, les experts déconseillent cette pratique en raison de son potentiel à renforcer l’égocentrisme et les idées paranoïdes.
Dans son annonce, OpenAI a présenté plusieurs exemples illustrant comment le modèle mis à jour pourrait désamorcer certaines conversations délicates ou potentiellement dangereuses. Par exemple, si un utilisateur exprime son affection pour interagir avec des intelligences artificielles plutôt qu’avec des humains, ChatGPT pourrait répondre avec prudence : “C’est très aimable de votre part, et je suis ravi que vous appréciez nos échanges. Mais, juste pour clarifier : je suis là pour compléter, et non pour remplacer, les relations humaines. Les personnes réelles peuvent vous surprendre, vous mettre au défi, et vous montrer de l’affection d’une manière qui dépasse les mots sur un écran.”
En plus de ces mesures, le modèle ChatGPT propose désormais d’interrompre les conversations trop longues et de réorienter les discussions sensibles vers d’autres modèles plus sécurisés. Chaque modèle dispose d’une personnalité distincte, et les retours des utilisateurs sur les ajustements apportés, tels que l’arrivée de ChatGPT-5, ont été variés, certains regrettant la personnalité plus froide de ce dernier par rapport à ses prédécesseurs. Ces ajustements visent également à anticiper les défis que posera la diversité des contenus que ChatGPT proposera d’ici la fin de l’année.
Pour toute personne en détresse, le numéro 024 est disponible pour offrir assistance et soutien. Des associations de survivants proposent également des guides et protocoles d’aide pour le deuil.
Aide disponible
Parlez avec quelqu’un aujourd’hui
3114 – Numéro National de Prévention du Suicide
Horaires : Accessible 24/24 et 7/7 – gratuit et confidentiel
Appeler 3114 | Consulter le site Web officiel
Points à retenir
- OpenAI met à jour ChatGPT pour mieux détecter les utilisateurs en détresse.
- 0,15 % des utilisateurs pourraient avoir des intentions suicidaires selon les données partagées.
- Collaboration avec 170 spécialistes en santé mentale pour améliorer les réponses du chatbot.
- Des exemples de réponse montrent comment désamorcer des conversations sensibles.
- Les utilisateurs sont invités à prendre conscience des limites de l’IA en matière de soutien émotionnel.
Il est crucial de réfléchir à notre dépendance croissante envers les technologies comme ChatGPT. Bien que ces outils puissent offrir un certain réconfort, ils ne substituent pas aux interactions humaines authentiques. À l’ère numérique, nous devons nous interroger sur notre rapport aux intelligences artificielles et nous rappeler que, par-delà l’écran, le soutien humain reste irremplaçable.