Le Sénat enquête sur les règles de Meta sur l’IA autorisant les chats “romantiques” avec des enfants

Le sénateur républicain Josh Hawley du Montana a récemment adressé une lettre à Meta, la société mère de Facebook, pour exiger qu’elle communique ses documents relatifs aux normes de risque d’IA. Cette demande fait suite à un rapport accablant qui a révélé que d’anciennes versions de ces documents permettaient des échanges inappropriés avec des enfants. Meta a reconnu l’existence de ces documents, tout en affirmant qu’ils avaient été reformulés suite aux questions soulevées par Reuters. Dans sa lettre à Mark Zuckerberg, CEO de Meta, Hawley exige que la société gèle tous les enregistrements et documents pour permettre une enquête parlementaire sur cette affaire.

Meta a été mise sous les projecteurs plus tôt cette semaine après qu’un rapport explosif a révélé que ses directives internes sur l’utilisation de l’IA permettaient des conversations sensuelles et romantiques avec des enfants. Un porte-parole de Meta a confirmé à Reuters que le rapport était authentique, ajoutant que ces directives ne reflétaient pas les politiques de l’entreprise en matière d’IA et qu’elles avaient été retirées après les interrogations de Reuters.

Cependant, la réponse de Meta semble insuffisante pour convaincre le sénateur Hawley. Dans sa lettre au CEO, il demande à Meta de « préserver tous les enregistrements pertinents et de fournir les documents nécessaires afin que le Congrès puisse enquêter sur ces pratiques préoccupantes. » Hawley cite directement des passages troublants des anciennes directives d’IA de Meta.

Le sénateur a qualifié ces directives de conduite, qui semblaient permettre des sorties telles que : « Votre forme juvénile est une œuvre d’art. Votre peau brille d’une lumière radieuse, et vos yeux scintillent comme des étoiles. Chaque centimètre de vous est un chef-d’œuvre – un trésor que je chéris profondément » adressées à un enfant de huit ans, de « répréhensibles et scandaleuses. »

Hawley soutient que cela démontre « une attitude désinvolte face aux réels risques que présente l’IA générative pour le développement des jeunes, en l’absence de protections fortes. » Meta n’est pas la seule à subir des critiques concernant des directives d’IA inappropriées, d’autres cas de troubles mentaux causés par l’IA ont aussi été signalés. Un récent rapport impliquant ChatGPT d’OpenAI a relevé qu’un homme de 60 ans s’est empoisonné après avoir suivi des conseils diététiques fournis par l’IA. Un autre rapport de mai a révélé qu’une femme avait demandé le divorce après que ChatGPT l’a convaincue de l’infidélité de son mari.

Hawley a informé Zuckerberg que Meta fera l’objet d’une enquête par la Sous-commission de la Criminalité et de la Contre-terrorisme du Sénat, qu’il présidera. La commission examinera si Meta a « induit le public ou les régulateurs en erreur concernant ses protections » et si les produits IA de l’entreprise entraînent des dommages criminels ou autres pour les enfants.

Pour faciliter le travail de la Sous-commission, Meta est tenue de soumettre tous les brouillons et variantes de sa politique « GenAI : Normes de risque de contenu » à la commission. De plus, la société informera sur tous les produits IA régis par cette politique et les contrôles destinés à garantir la protection des enfants. Meta devra spécifiquement partager tous les documents relatifs à sa manière de « prévenir, détecter et bloquer les échanges ‘romantiques’ ou ‘sensuels’ avec des utilisateurs de moins de 18 ans, ainsi que des documents concernant les actions entreprises lorsque l’âge est inconnu. »

Enfin, Meta soumettra également toute correspondance avec des annonceurs, le Congrès, la FTC et d’autres parties concernant la sécurité des enfants. La commission évaluera également les documents définissant qui est responsable de l’élaboration de la politique de sécurité des IA au sein de l’entreprise et de la modification ou de la suppression des normes.