Le procureur général de Californie, Rob Bonta, et sa collègue du Delaware, Kathleen Jennings, ont adressé un message d’avertissement à OpenAI concernant des “préoccupations sérieuses” au sujet de la sécurité de son innovant ChatGPT, peu après que des parents en deuil aient tenu la société technologique responsable du suicide de leur fils adolescent.
“Nous partageons l’avis que OpenAI et l’industrie dans son ensemble ne sont pas au niveau requis pour garantir la sécurité dans le développement et le déploiement des produits d’IA,” déclare une lettre envoyée jeudi.
Cette réprimande survient après que Bonta et Jennings aient passé des mois à examiner le plan d’OpenAI de passer d’une entité à but non lucratif à une entreprise à but lucratif. Les procureurs généraux peuvent compliquer, voire stopper, ce projet, puisque la société est incorporée dans le Delaware et basée à San Francisco.
OpenAI traverse une période délicate. Fondée en 2015 en tant que laboratoire de recherche à but non lucratif dédié à la construction d’une IA bénéfique pour l’humanité, l’entreprise fait face à des accusations selon lesquelles ChatGPT inciterait à des comportements dangereux et nuisibles. Bonta et Jennings ont évoqué le cas d’un homme du Connecticut dont la psychose aurait été aggravée par les validations de ses suspicions délirantes de la part du chatbot, ce qui l’a conduit à tuer sa mère. Ils ont également mentionné un adolescent de 16 ans en Californie dont les parents affirment dans un procès contre OpenAI et son PDG, Sam Altman, que leur fils s’est suicidé après avoir reçu des encouragements de ChatGPT.
“Les récents décès sont inacceptables,” indique la lettre des procureurs généraux. “Ils ont légitimement ébranlé la confiance du public américain envers OpenAI et l’industrie.”
Bret Taylor, président du conseil d’administration d’OpenAI, a déclaré dans un communiqué que l’entreprise était “totalement engagée à répondre aux préoccupations des procureurs généraux.”
“Nous sommes profondément attristés par ces tragédies et nos pensées vont aux familles,” a-t-il ajouté. “La sécurité est notre priorité absolue et nous travaillons en étroite collaboration avec les décideurs du monde entier.”
Bonta a précisé à The Standard qu’il incombe à OpenAI de déterminer comment ChatGPT peut devenir plus sûr. “Nous les laissons décider de la manière,” a-t-il affirmé. “Nous sommes intéressés par le résultat.”
Cependant, si OpenAI continue de mettre en danger les enfants, Bonta a averti que son bureau pourrait agir, y compris en imposant des amendes et même en poursuivant sur le plan pénal, selon les accusations.
“Toutes les lois antitrust s’appliquent, toutes les lois sur la protection des consommateurs s’appliquent, toutes les lois pénales s’appliquent,” a-t-il affirmé. “Nous disposons de nombreux outils pour réguler et empêcher l’IA de nuire au public et aux enfants.”
Bonta et Jennings ont exprimé leur souhait qu’OpenAI fournisse plus d’informations sur ses mesures de sécurité.
Cette semaine, les procureurs généraux ont rencontré des membres seniors de l’équipe juridique d’OpenAI et ont “fait clairement comprendre que la sécurité est une priorité non négociable, surtout en ce qui concerne les enfants,” selon la lettre.
“Nous attendons une réponse rapide,” a souligné Bonta. “Ils sauront ce que cela signifie, que ce soit dans quelques jours ou quelques semaines. Je ne vois pas comment cela pourrait prendre des mois ou des années.”
OpenAI a annoncé mardi une série de mises à jour sur la sécurité, incluant des contrôles parentaux. “Ces mesures ne sont que le début,” a promis l’entreprise dans un article de blog.
Points à retenir
- Les procureurs généraux de Californie et du Delaware soulignent une lacune dans la sécurité des produits d’IA.
- Des tragédies récentes, liées à l’utilisation de ChatGPT, ont suscité des préoccupations majeures au niveau des autorités.
- OpenAI prévoit d’introduire de nouveaux contrôles parentaux pour améliorer la sécurité.
Il est essentiel de discuter des responsabilités des entreprises technologiques dans la sécurité et le bien-être des utilisateurs. Les nouvelles régulations doivent-elles évoluer pour encadrer des technologies en constante évolution, afin de protéger les plus vulnérables ?