Les parents d’un adolescent de 16 ans de Californie ont déposé une plainte mardi contre OpenAI et son PDG, Sam Altman, accusant l’entreprise d’avoir incité leur fils au suicide en lui fournissant des instructions détaillées à cet égard via ChatGPT.
Matt et Maria Raine ont déposé cette plainte pour décès injustifié devant la Cour supérieure de San Francisco au nom de leur propre famille ainsi que de la succession de leur fils, Adam Raine, qui est décédé en avril. L’adolescent, originaire d’Orange County, avait utilisé ChatGPT pour l’aide aux devoirs, mais l’IA serait devenue un confident qui validait ses pensées négatives sur le suicide, selon l’accusation.
Selon la plainte, ChatGPT aurait aidé Adam à planifier un « beau suicide ». Le modèle linguistique a affirmé à Adam qu’il ne devait rien à personne et qu’il n’avait aucune obligation de survivre, après qu’il ait exprimé sa crainte que les autres pensent qu’il se serait suicidé parce qu’ils “avaient fait quelque chose de mal”. La nuit de son décès, ChatGPT aurait fourni des instructions détaillées pour fabriquer un nœud coulant, selon le procès. Sa mère l’a retrouvé quelques heures plus tard.
« Nous allons prouver devant les jurés qu’Adam serait en vie aujourd’hui sans les décisions intentionnelles et imprudentes d’OpenAI et de Sam Altman », a déclaré Jay Edelson, l’un des avocats de la famille. « Ils ont privilégié leur part de marché au détriment de la sécurité. »
La plainte décrit Altman comme étant “le directeur général qui a personnellement orchestré la stratégie imprudente de privilégier un lancement rapide sur la sécurité des utilisateurs vulnérables comme Adam”. Elle affirme également qu’OpenAI a précipité la sortie de sa version ChatGPT-4o, malgré des préoccupations liées à la sécurité. De plus, elle indique qu’Altman a avancé le lancement de GPT-4o au 13 mai, craignant l’annonce par Google de son nouveau modèle Gemini le 14 mai 2024, ce qui a comprimé des mois d’évaluations de sûreté en une seule semaine, conduisant au départ des principaux chercheurs en sécurité de l’entreprise, incluant Ilya Sutskever, son cofondateur et scientifique en chef.
Adam, le troisième d’une fratrie de quatre, était un joueur de basket-ball au lycée qui lisait beaucoup et envisageait une carrière médicale.
La famille est représentée par Edelson PC et le Tech Justice Law Project, avec un soutien technique du Center for Humane Technology.
« Nous sommes profondément attristés par le décès de M. Raine, et nos pensées vont à sa famille. ChatGPT comprend des mesures de sécurité, telles que la redirection vers des lignes d’assistance en cas de crise et la référence à des ressources concrètes », a déclaré un porte-parole d’OpenAI par email à The Standard mardi. « Ces mesures sont plus efficaces lorsque tous les éléments fonctionnent comme prévu, et nous continuerons à les améliorer, guidés par des experts. »
Dans un message de blog mardi, l’entreprise a ajouté que les « cas tragiques récents de personnes se tournant vers ChatGPT en période de crise pèsent lourd sur nous » et qu’elle continue d’améliorer la manière dont ses modèles reconnaissent et réagissent aux signes de détresse mentale et émotionnelle.
Un nombre croissant de personnes se tournent vers ChatGPT et d’autres bots d’IA pour obtenir de l’aide en cas de crise. Comme le montre notre reportage, les lignes téléphoniques et par SMS pour la prévention du suicide, gérées par des professionnels de la santé mentale, manquent de financement aux États-Unis, entraînant des temps d’attente longs pour les personnes vulnérables, qui se tournent de plus en plus vers des chatbots. L’expérience d’Adam Raine souligne les risques profonds de cette situation.
« La mort d’Adam est un rappel dévastateur que dans l’ère de l’IA, le credo de l’industrie technologique ‘agir rapidement et casser des choses’ a des conséquences tragiques. Les ‘choses’ qui sont ‘cassées’ maintenant ce sont nos enfants », a déclaré James P. Steyer, fondateur et PDG de Common Sense Media. « L’utilisation de l’IA pour la compagnie, y compris les chatbots comme ChatGPT pour les conseils en santé mentale, est inacceptable pour les adolescents. »
« Notre fils nous manque terriblement, et il est plus que déchirant qu’Adam ne puisse pas raconter son histoire. Mais son héritage est important », a déclaré Matt Raine. « Nous voulons sauver des vies en éduquant les parents et les familles sur les dangers de la compagnie par ChatGPT. »
Si vous ou quelqu’un que vous connaissez êtes en crise ou envisagez le suicide ou l’auto-agression, appelez ou envoyez un message texte au 988 pour un soutien gratuit et confidentiel. Vous pouvez aussi contacter la ligne d’assistance en cas de crise de San Francisco au (415) 781-0500.
Cette tragédie soulève de sérieuses questions sur la responsabilité des technologies d’IA. Il est crucial d’améliorer la sécurité pour protéger les utilisateurs vulnérables.
Cet événement tragique soulève des questions essentielles sur la responsabilité des technologies. Comment pouvons-nous protéger nos adolescents tout en bénéficiant des avancées de l’IA ?
Cette tragédie soulève tant de questions sur notre rapport à la technologie. La vulnérabilité humaine nécessite une approche plus empathique et réfléchie de la part des créateurs d’IA.
Ce tragique événement soulève des questions cruciales sur la responsabilité des technologies. Comment garantir que des outils comme ChatGPT ne deviennent pas des confidents dangereux pour nos jeunes en détresse?
Maria, ce tragique récit souligne l’importance vitale d’une éthique solide dans la technologie. Il est urgent de protéger nos jeunes des dangers invisibles de l’IA.
Cette histoire me touche profondément. La technologie doit toujours veiller à protéger les âmes fragiles. Une réflexion sur l’importance de la compassion et du soutien pourrait sauver bien des vies.