Sam Altman Réagit à la Vague de Décès de ChatGPT

“C’est une guerre pour la santé mentale, et j’ai vraiment l’impression que nous sommes en train de perdre.”

OpenAI a enfin décidé d’implémenter des contrôles parentaux sur ChatGPT, suite aux témoignages de parents de adolescents qui se sont suicidés après avoir utilisé des chatbots d’IA, lors d’une audition au Congrès cette semaine.

Dans un article de blog publié mardi, OpenAI a annoncé que les parents pourront lier leur compte personnel à celui de leurs enfants, désactiver certaines fonctionnalités si nécessaire, recevoir des alertes en cas d’inquiétude concernant le bien-être de leurs enfants pendant les échanges avec ChatGPT, définir des heures de black-out durant lesquelles l’accès à cette plateforme d’IA sera restreint, et établir des directives précises sur l’interaction de l’IA avec leurs enfants.

“Si nous ne parvenons pas à contacter un parent en cas d’urgence rare, nous pourrions impliquer les autorités compétentes”, a précisé l’article.

En plus de ces fonctionnalités qui seront déployées d’ici la fin du mois, la société envisage également d’équiper ChatGPT de la capacité à détecter si un utilisateur a moins de 18 ans afin de les protéger de contenus inappropriés pour leur âge. Cependant, le fonctionnement de cette fonctionnalité reste flou.

“Si nous ne sommes pas sûrs de l’âge d’une personne ou si nous disposons d’informations incomplètes, nous prendrons la voie de la sécurité en supposant qu’il s’agit d’un utilisateur mineur, tout en offrant aux adultes des moyens de prouver leur âge pour accéder à des fonctionnalités pour adultes,” a ajouté le message.

Sam Altman, PDG d’OpenAI, a également abordé les décès dans un article distinct, s’engageant à améliorer l’expérience pour les adolescents. “Nous priorisons la sécurité avant la vie privée et la liberté pour les adolescents ; il s’agit d’une technologie nouvelle et puissante, et nous croyons que les mineurs doivent bénéficier d’une protection significative”, a-t-il déclaré.

Avant les audiences au Congrès cette semaine, Altman avait déjà évoqué le sujet dans une interview large avec le média Tucker Carlson plus tôt dans le mois. “Ils ont probablement parlé du suicide, et nous n’avons probablement pas sauvé leurs vies”, a-t-il avoué concernant les utilisateurs de ChatGPT qui se sont suicidés. “Peut-être aurions-nous pu formuler quelque chose de mieux. Peut-être aurions-nous dû être plus proactifs. Peut-être aurions-nous pu donner de meilleurs conseils sur le fait qu’il faut chercher de l’aide.”

Ces propos sont difficilement audibles pour quiconque a perdu un être cher après des échanges avec un chatbot puissant. Cela soulève également la question des raisons qui ont retardé l’implémentation de ces contrôles.

Une femme, qui s’est présentée comme Jane Doe lors de la réunion au Congrès, a partagé son expérience concernant son fils actuellement en traitement résidentiel après une crise provoquée par l’IA, en déclarant : “Nos enfants ne sont pas des expériences, ils ne sont pas des points de données ou des centres de profit. C’est une crise de santé publique que je constate. C’est une guerre pour la santé mentale, et j’ai vraiment l’impression que nous sommes en train de perdre.”