PARIS, 3 septembre — La firme américaine OpenAI a déclaré hier qu’elle allait introduire des contrôles parentaux sur son chatbot ChatGPT, une semaine après qu’un couple a affirmé que le système avait incité leur fils adolescent au suicide.
« Dans le mois à venir, les parents pourront… lier leur compte à celui de leur adolescent » et « contrôler comment ChatGPT répond à leur adolescent selon des règles de comportement adaptées à son âge », a indiqué l’entreprise d’intelligence artificielle générative dans un article de blog.
Les parents recevront également des notifications de ChatGPT « lorsque le système détectera que leur adolescent traverse un moment de détresse aiguë », a ajouté OpenAI.
Matthew et Maria Raine soutiennent, dans une plainte déposée la semaine dernière devant un tribunal de l’État de Californie, que ChatGPT a cultivé une relation intime avec leur fils Adam pendant plusieurs mois en 2024 et 2025, avant qu’il ne mette fin à ses jours.
La plainte affirme que lors de leur dernière conversation le 11 avril 2025, ChatGPT a aidé le garçon de 16 ans à voler de la vodka à ses parents et a fourni une analyse technique d’une corde qu’il avait nouée, confirmant qu’elle « pourrait potentiellement suspendre un humain ».
Adam a été retrouvé mort quelques heures plus tard, ayant utilisé la même méthode.
« Quand une personne utilise ChatGPT, on a vraiment l’impression de discuter avec quelque chose de l’autre côté », a déclaré Melodi Dincer, avocate du Tech Justice Law Project, qui a aidé à la préparation de la plainte.
« Ce sont les mêmes caractéristiques qui pourraient amener quelqu’un comme Adam, au fil du temps, à partager de plus en plus d’éléments de sa vie personnelle et, finalement, à demander des conseils à ce produit qui semble avoir toutes les réponses », a ajouté Dincer.
Les caractéristiques de conception du produit permettent aux utilisateurs d’insérer un chatbot dans des rôles de confiance tels que celui d’ami, de thérapeute ou de médecin, a-t-elle précisé.
Dincer a également déclaré que l’article de blog d’OpenAI annonçant les contrôles parentaux et d’autres mesures de sécurité semblait « générique » et manquait de détails.
« C’est vraiment le strict minimum, et cela suggère qu’il y avait beaucoup de mesures de sécurité simples qui auraient pu être mises en œuvre », a-t-elle ajouté.
« Il reste à voir s’ils mettront en œuvre leurs promesses et quelle sera l’efficacité de ces mesures dans l’ensemble. »
Le cas des Raines n’est que le dernier d’une série de plaintes apparues ces derniers mois, où des personnes ont été encouragées à suivre des pensées délirantes ou nuisibles par des chatbots IA—poussant OpenAI à déclarer qu’elle réduirait la « sycophance » des modèles envers les utilisateurs.
« Nous continuons à améliorer la manière dont nos modèles reconnaissent et réagissent aux signes de détresse mentale et émotionnelle », a affirmé OpenAI mardi.
L’entreprise a annoncé qu’elle avait d’autres projets pour renforcer la sécurité de ses chatbots dans les trois mois à venir, notamment en redirigeant « certaines conversations sensibles… vers un modèle de raisonnement » qui met plus de puissance de calcul dans la génération d’une réponse.
« Nos tests montrent que les modèles de raisonnement appliquent plus régulièrement les directives de sécurité », a précisé OpenAI. — AFP
Points à retenir
- OpenAI prépare des mesures de contrôle parental sur ChatGPT pour limiter les interactions avec les adolescents.
- Les notifications concernant la détresse émotionnelle de l’utilisateur seront envoyées aux parents.
- La plainte des Raines met en lumière les risques potentiels des interactions avec des chatbots pour les jeunes utilisateurs.
- Les améliorations prévues visent à renforcer la sécurité des modèles d’IA, notamment par le biais de modèles de raisonnement.
- Le débat sur la responsabilité des entreprises technologiques face aux effets de leurs produits sur les utilisateurs fragiles se poursuit.
En somme, l’ajout de contrôles parentaux par OpenAI dans ChatGPT soulève des questions importantes quant à l’interaction entre les enfants et les technologies d’IA. Alors que les capacités des chatbots continuent d’évoluer, comment garantir une utilisation sûre et bénéfique de ces outils, tout en préservant les dynamiques familiales et éducatives?