Le gouvernement espagnol a demandé à son procureur public d’enquêter sur les plateformes de médias sociaux X, Meta et TikTok, accusées de propager de la pornographie infantile générée par intelligence artificielle et de violences sexuelles numériques. Parallèlement, l’autorité irlandaise de la protection des données a annoncé qu’elle examinait également des images deepfake non consensuelles produites par le chatbot IA Grok d’X.
Ce mardi, le Premier ministre espagnol, Pedro Sanchez, a affirmé que le Conseil des ministres invoquerait l’article 8 du Statut organique du ministère public pour enquêter sur d’éventuelles infractions commises par ces géants de la technologie.
« Ces plateformes mettent en danger la santé mentale, la dignité et les droits de nos enfants », a écrit Sanchez sur X. « L’État ne peut pas permettre cela. L’impunité de ces géants doit cesser. »
La demande d’enquête du Premier ministre repose sur un rapport technique du gouvernement, qui décrit l’environnement numérique comme un espace d’« impunité et de tolérance vis-à-vis des pratiques criminelles qui mettent en danger la vie privée, l’image et la liberté des mineurs. » Selon l’organisation caritative Save the Children, environ un jeune sur cinq dans le pays – principalement des filles – a signalé que des images obscènes générées par IA avaient été créées et partagées en ligne.
La décision d’ouvrir une enquête sera prise par la procureure générale, Teresa Peramato.
Plus tôt ce mois-ci, le gouvernement espagnol a également annoncé une interdiction des médias sociaux pour les enfants de moins de 16 ans, obligeant les plateformes à vérifier l’âge des utilisateurs. Cette interdiction fait partie d’un ensemble plus large de mesures proposées, qui inclut aussi la législation rendant personnellement responsables les dirigeants de ces plateformes pour les contenus illégaux circulant sur leurs sites, y compris la désinformation, les discours de haine et le matériel d’abus sexuels sur enfants (CSAM).
L’autorité irlandaise à l’étude de Grok d’X
La Espagne ne se contente pas d’être la seule à chercher à réguler les plateformes sociales face à la pornographie infantile.
Ce lundi, la Commission irlandaise de protection des données (DPC) a annoncé l’ouverture d’une enquête sur X pour l’utilisation de données personnelles, y compris celles d’enfants, afin de produire des « images intimes et/ou sexualisées potentiellement nuisibles et non consensuelles. »
La DPC a autorité sur X car son siège européen est basé à Dublin. L’enquête examinera si le géant technologique a respecté le Règlement général sur la protection des données (RGPD) de l’UE.
« La DPC est en contact avec X depuis que des rapports médiatiques ont émergé concernant la capacité présumée des utilisateurs de X à inciter le compte @Grok à générer des images sexualisées de vraies personnes, y compris des enfants », a déclaré le commissaire adjoint Graham Doyle.
Ces derniers mois, Grok d’X a commencé à répondre aux demandes des utilisateurs pour créer des deepfakes non consensuels, y compris ceux basés sur des images de mineurs. Selon un rapport du Centre britannique pour contrer la haine numérique (CCDH), l’assistant IA a généré environ 3 millions d’images sexualisées en seulement 11 jours, dont 23 000 semblaient représenter des enfants.
Outre les risques de sanctions pour contenus illégaux tels que le CSAM, cette fonctionnalité de traitement d’images a également été décrite comme une « violation massive des lois sur la vie privée biométrique. »
En janvier, la Commission européenne a lancé sa propre enquête sur X concernant les deepfakes sexuels dans le cadre de la Loi sur les services numériques (DSA). La plateforme est également sous les projecteurs en France, où la police a perquisitionné ses bureaux, et au Royaume-Uni, où le Bureau du commissaire à l’information a ouvert sa propre enquête.
En décembre, l’UE a infligé à cette entreprise américaine une amende de 120 millions d’euros (environ 140 millions de dollars) pour avoir enfreint la DSA, arguant que ses badges de vérification induisaient les utilisateurs en erreur, car la société ne « vérifiait pas de manière significative » qui se cachait derrière chacun des comptes.
La Commission européenne enquête également sur Meta et TikTok dans le cadre de la DSA.
Points à retenir
- Il existe une pression croissante sur les plateformes sociales pour lutter contre la pornographie infantile et les deepfakes.
- L’UE et plusieurs États membres prennent des mesures pour protéger les enfants en ligne.
- La responsabilité des dirigeants de plateformes est mise en avant dans les nouvelles législations.
- Les données personnelles des utilisateurs, en particulier celles des mineurs, sont au cœur des préoccupations envers la technologie.
- La coopération internationale est essentielle pour faire face à ces défis numériques croissants.
En me fondant sur ces développements, je me demande : jusqu’où iront les gouvernements dans leur quête pour protéger les mineurs face à ces nouvelles technologies ? La réglementation est-elle la solution, ou cela pourrait-il conduire à des abus de la part des autorités elles-mêmes ? La question reste ouverte.