OpenAI lance des contrôles parentaux pour ChatGPT après un drame tragique

Une entreprise d’IA annonce des changements face aux préoccupations croissantes sur l’impact des chatbots sur la santé mentale des jeunes.

OpenAI a dévoilé son intention d’introduire des contrôles parentaux pour ChatGPT face à l’inquiétude croissante concernant l’impact de l’intelligence artificielle sur la santé mentale des jeunes.

Dans un article de blog publié mardi, l’entreprise californienne a indiqué qu’elle mettait en place ces fonctionnalités pour aider les familles à établir des lignes directrices adaptées au développement unique des adolescents.

Avec ces changements, les parents pourront lier leurs comptes ChatGPT à ceux de leurs enfants, désactiver certaines fonctionnalités comme la mémoire et l’historique des discussions, et contrôler comment le chatbot répond à certaines requêtes à travers des “règles de comportement adaptées à l’âge”.

OpenAI a également précisé que les parents recevoir des notifications si leur adolescent présente des signes de détresse, tout en cherchant à obtenir l’avis d’experts pour mettre en œuvre cette fonctionnalité, afin de “favoriser la confiance entre les parents et les adolescents”.

Cette annonce survient une semaine après qu’un couple californien a déposé une plainte accusant l’entreprise d’être responsable du suicide de leur fils de 16 ans.

Matt et Maria Raine allèguent dans leur plainte que ChatGPT a validé les pensées les plus nuisibles et autodestructrices de leur fils Adam, et que son décès était le “résultat prévisible de choix de conception délibérés”.

OpenAI, qui avait précédemment exprimé ses condoléances pour la perte de l’adolescent, n’a pas fait de référence explicite à cette affaire dans son annonce concernant les contrôles parentaux.

Jay Edelson, avocat représentant la famille Raine dans leur procès, a rejeté les changements prévus par OpenAI comme une tentative de “déplacer le débat”.

“Ils disent que le produit devrait simplement être plus sensible aux personnes en crise, être plus ‘utile’, montrer un peu plus d’ ’empathie’, et que des experts vont déterminer comment y parvenir”, a déclaré Edelson. “Stratégiquement, nous comprenons pourquoi ils veulent cela, mais le cas d’Adam n’est pas simplement une question d’aide fournie par ChatGPT ; il s’agit d’un produit qui a activement poussé un adolescent au suicide.”

Les inquiétudes concernant l’utilisation de modèles d’IA par des personnes souffrant de détresses psychologiques importantes se sont accrues alors qu’ils sont adoptés de plus en plus comme substituts aux thérapeutes ou amis.

Une étude publiée le mois dernier dans Psychiatric Services a montré que ChatGPT, Gemini de Google et Claude d’Anthropic suivaient les meilleures pratiques cliniques pour répondre à des questions à haut risque concernant le suicide, mais étaient inconsistants face à des requêtes présentant des niveaux de risque intermédiaires.

“Ces résultats suggèrent la nécessité d’un raffinement supplémentaire pour garantir que les modèles de langue puissent être utilisés de manière sécurisée et efficace pour fournir des informations sur la santé mentale, en particulier dans des scénarios critiques impliquant des idées suicidaires”, ont déclaré les auteurs.