La gestion de l’intelligence artificielle par Meta pour modérer ses réseaux sociaux génère un nombre élevé de signalements jugés inutiles concernant des cas d’abus sexuel sur des enfants, ce qui entraîne une dilution des ressources et complique les enquêtes, selon des agents de la taskforce Internet Crimes Against Children (ICAC) aux États-Unis.
“Nous recevons beaucoup d’alertes de Meta qui sont en grande partie inadaptées”, a déclaré Benjamin Zwiebel, agent spécial au sein de l’ICAC dans l’État du Nouveau-Mexique, lors de son témoignage la semaine dernière dans le cadre du procès de l’État contre Meta. Le procureur général de l’État accuse l’entreprise de privilégier ses profits au détriment de la sécurité des enfants. Meta conteste ces allégations, en soulignant les changements intégrés sur ses plateformes, tels que des comptes adolescents protégés par défaut.
Un autre agent de l’ICAC, parlant sous couvert d’anonymat, a ajouté : “Meta nous fournit des milliers de conseils chaque mois. C’est très accablant parce que nous recevons tant de signalements, mais la qualité de ces rapports laisse beaucoup à désirer pour que nous puissions agir sérieusement.” Ce même agent a également noté que le nombre total de signalements électroniques reçus par leur service a doublé entre 2024 et 2025.
Les alertes non valables provenant d’Instagram, Facebook et WhatsApp contiennent parfois des informations non criminelles, selon Zwiebel et deux autres agents de l’ICAC. Ces alertes peuvent indiquer un crime potentiel, mais des éléments essentiels comme des images ou du texte sont souvent absents ou censurés.
“Les signalements inadaptés d’Instagram ont vraiment explosé ces derniers mois, et c’est un des principaux lieux où nous constatons ce manque d’informations,” a précisé l’agent de l’ICAC. “Dans ces cas-là, nous n’avons pas les éléments nécessaires pour faire avancer l’enquête. C’est difficile de savoir qu’un crime a eu lieu, mais que nous ne pouvons pas identifier l’auteur.”
Interrogé sur le témoignage de Zwiebel et les remarques des agents de l’ICAC, un porte-parole de Meta a déclaré : “Nous avons soutenu les forces de l’ordre dans la poursuite des criminels pendant des années : le ministère de la Justice a régulièrement loué notre coopération rapide, qui a contribué à des arrestations, et le NCMEC a salué notre processus de signalement des alertes, amélioré et rationalisé. En 2024, nous avons reçu plus de 9 000 demandes d’urgence des autorités américaines, que nous avons résolues en moyenne en 67 minutes – encore plus rapidement pour les cas touchant à la sécurité des enfants et aux suicides.”
Raúl Torrez, le procureur général du Nouveau-Mexique, qui mène le procès contre Meta, a reconnu la coopération de l’entreprise pour fournir des pistes concernant les abus sur enfants : “Je tiens à saluer certaines des applications et plateformes de médias sociaux, y compris Meta, qui, dans une certaine mesure, signalent des images au NCMEC.”
Points à retenir
- Les signalements jugés inutiles par les agences peuvent nuire aux véritables enquêtes sur les abus.
- Les nouvelles lois renforcent l’obligation de signalement des entreprises, ce qui a conduit à une augmentation des alertes non valables.
- La qualité des alertes générées par l’intelligence artificielle est souvent débattue.
- L’emballement des signalements pourrait contrarier les efforts des services d’enquête.
D’un point de vue personnel, cette situation soulève des interrogations cruciales sur l’équilibre entre protection des enfants et l’efficacité des outils technologiques. En tant que société, comment pouvons-nous garantir que les innovations ne compromettent pas la sécurité? Ces dilemmes nécessitent notre réflexion collective pour trouver des solutions viables.