Meta de Mark Zuckerberg a étouffé les recherches sur les prédateurs utilisant la VR pour cibler les enfants, affirment des lanceurs d’alerte

Des accusations explosées ont émergé selon lesquelles Meta, la société de Mark Zuckerberg, aurait étouffé des recherches internes concernant les risques de sécurité liés à ses applications de réalité virtuelle. Parmi ces allégations, il est rapporté qu’un individu malintentionné aurait fait des propositions sexuelles à un enfant de moins de 10 ans, selon des révélations inquiétantes d’un lanceur d’alerte rendues publiques lundi.

Deux des lanceurs d’alerte, dont un ancien chercheur en sécurité chez Meta nommé Jason Sattizahn et un collègue non identifié, ont relaté un voyage de recherche en Allemagne effectué en avril 2023. Lors de ce voyage, une mère allemande a expliqué qu’elle interdisait à ses enfants de parler à des inconnus via les casques de réalité virtuelle de Meta. Pourtant, quelques instants plus tard, son fils adolescent a affirmé que son jeune frère avait été approché plusieurs fois par des individus suspects.

« J’ai ressenti une profonde tristesse en observant la réaction de la mère », a déclaré Sattizahn au Washington Post. « Son visage révélait en temps réel sa prise de conscience que ce qu’elle pensait savoir sur la technologie de Meta était complètement erroné. »

Après avoir réalisé les interviews, les chercheurs auraient reçu l’ordre de supprimer leurs enregistrements et les preuves écrites concernant les allégations de l’adolescent. En lieu et place, le rapport final de Meta a déclaré que les parents allemands exprimaient simplement des inquiétudes au sujet de la possibilité que des prédateurs s’intéressent à leurs enfants dans le contexte de la réalité virtuelle.

Les accusations controversées, parmi tant d’autres, ont été soumises par quatre employés actuels et anciens de Meta qui ont transmis un dossier contenant des milliers de pages de documents, de mémos et de présentations au Congrès, comme l’a rapporté le Washington Post.

Par ailleurs, il a été révélé que Meta était au courant, depuis avril 2017, que des enfants contournent les limites d’âge pour utiliser des casques Oculus VR, selon les documents divulgués. « Nous avons un problème avec les enfants, et il est probablement temps d’en parler », pouvait-on lire dans un message d’un employé à l’époque.

Cet employé, dont le nom a été omis, a suggéré que jusqu’à 90 % des utilisateurs du métavers étaient mineurs. Un incident a été décrit, où « trois jeunes enfants (6 ou 7 ans?) discutaient avec un homme beaucoup plus âgé qui leur demandait où ils vivaient. »

« Ce genre de situation finit par faire la une des journaux — de manière très négative », a ajouté l’employé. Dans une présentation de novembre 2021 citée par le Washington Post, des avocats de Meta ont conseillé aux chercheurs de l’équipe des Reality Labs, responsable de la réalité virtuelle, de considérer la conduite de « recherches très sensibles sous le privilège avocat-client » afin de prévenir toute divulgation publique.

Les employés ont également reçu pour instruction de se montrer “réalistes” quant au langage utilisé dans les études internes, en évitant spécifiquement des termes tels que “non conforme” ou “illégal”.

En 2023, un avocat de Meta aurait même demandé à un chercheur de ne pas compiler de données sur le nombre d’enfants mineurs utilisant les dispositifs de réalité virtuelle de l’entreprise « en raison de préoccupations réglementaires », selon le rapport. « Pour être très clair : Meta a ordonné à ses chercheurs de supprimer des preuves que l’entreprise violait la loi et mettait délibérément en danger des mineurs », a déclaré Sacha Haworth, directrice exécutive du Tech Oversight Project.

« Ce n’est pas seulement profondément inquiétant, mais cela justifie une enquête approfondie sur le leadership de Mark Zuckerberg et la culture toxique au sein de Meta qui encourage les hauts dirigeants à enfreindre la loi », a-t-elle ajouté.

Le comité judiciaire du Sénat tiendra une audience mardi pour examiner les affirmations des lanceurs d’alerte. La semaine dernière, les sénateurs Chuck Grassley, Marsha Blackburn et Josh Hawley ont joint leurs voix dans une lettre accusant Zuckerberg de ne pas répondre de manière adéquate à leurs demandes et demandant un suivi au plus tard pour le 16 septembre.

Dans une déclaration conjointe soumise au Congrès en mai, les lanceurs d’alerte ont allégué que les avocats de Meta avaient engagé des efforts systémiques pour filtrer et parfois bloquer la publication de recherches internes sur la sécurité.

Ceux-ci seraient une réponse à la divulgation d’informations dommageables en 2021 et révélées par l’ancienne employée Frances Haugen, montrant que l’entreprise savait que ses applications nuisaient aux adolescentes. Ces révélations avaient provoqué une vague d’auditions au Congrès.

Les nouveaux lanceurs d’alerte prétendent que Meta cherchait à « établir une dénégation plausible » concernant l’ampleur de sa connaissance des risques de sécurité. La porte-parole de Meta, Dani Lever, a déclaré que les allégations de suppression de recherche étaient « assemblées pour correspondre à un récit préétabli et faux ».

« En réalité, depuis le début de 2022, Meta a approuvé près de 180 études liées aux Reality Labs sur des questions sociales, y compris la sécurité et le bien-être des jeunes », a déclaré Lever dans un communiqué. « Cette recherche a contribué à d’importantes mises à jour de produit telles que de nouveaux outils de supervision pour les parents afin de voir avec qui leurs adolescents sont connectés en VR, combien de temps ils passent, et les applications qu’ils utilisent. »

« Nous avons également mis en place des protections automatiques pour les adolescents afin de limiter les contacts indésirables, comme des paramètres de canal vocal par défaut dans Horizon Worlds, de sorte que les individus ne puissent entendre ou être entendus que par des personnes qu’ils connaissent, ainsi que des limites personnelles », a ajouté Lever. « Nous soutenons le travail remarquable de notre équipe de recherche et sommes déçus par ces incompréhensions sur les efforts de l’équipe. »

Lever n’a pas confirmé ou infirmé si la société avait effectivement ordonné la suppression des détails du voyage en Allemagne dans le rapport final. Elle a précisé que toute suppression éventuelle aurait été nécessaire pour se conformer au Règlement général sur la protection des données en Europe, une législation qui limite la collecte de données.

« Les réglementations mondiales sur la vie privée précisent que si des informations concernant des mineurs de moins de 13 ans sont collectées sans le consentement vérifiable d’un parent ou d’un tuteur, elles doivent être supprimées », a ajouté Lever dans sa déclaration.

Cependant, Sattizahn a affirmé que la mère avait effectivement donné son consentement via un contrat signé et que Meta ne nécessiterait normalement pas la suppression d’informations collectées lors d’interviews de recherche de ce type.

Sattizahn a été licencié par Meta en avril 2024 après s’être opposé à la direction au sujet de la gestion de la recherche sur la sécurité, tandis que l’autre chercheur ayant participé au voyage en Allemagne a démissionné en 2023 en raison de préoccupations éthiques.

Deux autres lanceurs d’alerte sont encore en poste chez Meta. Tous quatre bénéficient du soutien d’une organisation à but non lucratif appelée Whistleblower Aid, qui a également collaboré avec Haugen, selon le rapport.

« Dès le départ, nous avons intégré des fonctionnalités de sécurité dans nos dispositifs et avons clairement indiqué que ces dispositifs étaient destinés aux personnes de plus de 13 ans — cela a été précisé dans le Centre de sécurité Oculus, sur les emballages et dans les guides de l’utilisateur », a ajouté la déclaration de Lever. « À mesure que de plus en plus de personnes utilisaient ces dispositifs et que Meta lançait ses propres jeux et applications, nous avons ajouté encore plus de protections, en particulier pour les jeunes. »

Zuckerberg, autrefois très investit dans le « métavers », a même renommé son entreprise de Facebook à Meta en 2021 pour refléter l’orientation de l’entreprise vers cette technologie. Cependant, depuis, Meta a redirigé la majorité de ses ressources vers la recherche en intelligence artificielle.