Des défenseurs de la sécurité en ligne ont récemment appelé le régulateur britannique des communications, Ofcom, à restreindre l’utilisation de l’intelligence artificielle (IA) dans les évaluations cruciales des risques. Cette demande fait suite à des informations révélant que Meta, la firme de Mark Zuckerberg, envisage d’automatiser jusqu’à 90 % de ces contrôles pour ses plateformes Facebook, Instagram et WhatsApp.
Selon la loi britannique sur la sécurité en ligne (Online Safety Act), les plateformes doivent évaluer les risques de préjudice liés à leurs services et définir des mesures pour les réduire, en accordant une attention particulière à la protection des mineurs et à la prévention de contenus illégaux. Cette étape des « évaluations des risques » est considérée comme une pierre angulaire de la législation.
Dans une lettre adressée à Melanie Dawes, directrice d’Ofcom, plusieurs organisations, dont la Molly Rose Foundation, le NSPCC et l’Internet Watch Foundation, ont qualifié l’idée de confier ce travail à l’IA de « rétrograde et très inquiétante ». Elles insistent pour que le régulateur affirme clairement que les évaluations automatisées, ou majoritairement réalisées par des systèmes, ne sauraient être considérées comme « adaptées et suffisantes », une exigence de la loi.
Ces associations exhortent également Ofcom à ne pas laisser les plateformes réduire leurs exigences dans ce domaine, rappelant l’importance de maintenir des standards solides face à des tentations éventuelles de dérive.
De son côté, Ofcom a indiqué qu’elle prenait en compte ces préoccupations. Un porte-parole a rappelé que les plateformes doivent préciser qui a produit, révisé et validé ces évaluations, et qu’une réponse sera donnée en temps voulu.
Meta a réagi en affirmant que la lettre déformait volontairement son approche de la sécurité. La société insiste sur son engagement à respecter des normes strictes et la réglementation en vigueur.
Un porte-parole de Meta précise : « Nous n’utilisons pas l’IA pour prendre des décisions sur les risques. Nos experts ont conçu un outil qui aide les équipes à identifier quand les exigences légales et politiques s’appliquent à certains produits. La technologie, supervisée par des humains, améliore notre gestion des contenus nuisibles et a déjà permis des progrès significatifs en matière de sécurité. »
Cette polémique a été ravivée suite à un reportage diffusé par la radio américaine NPR, qui révélait que les futures modifications des algorithmes et nouvelles fonctionnalités chez Meta seraient principalement validées par une IA, avec moins d’examen humain. Selon un ancien dirigeant de Meta interrogé par NPR sous couvert d’anonymat, cette automatisation vise à accélérer le déploiement sur Facebook, Instagram et WhatsApp, mais augmente les risques pour les utilisateurs, car les problèmes potentiels pourraient ne plus être détectés avant mise en ligne.
NPR ajoutait que Meta envisageait aussi d’automatiser les évaluations sur des sujets sensibles comme la protection des jeunes et la surveillance de la désinformation.
Points à retenir
- L’automatisation des évaluations de risques par l’IA n’est pas une nouveauté, mais leur application massive soulève des questions éthiques et pratiques sur la fiabilité des algorithmes.
- La loi britannique sur la sécurité en ligne repose sur une rigueur humaine dans l’analyse des contenus nuisibles, surtout pour protéger les mineurs.
- Le débat révèle une tension classique entre la volonté de rapidité et d’efficacité technologique et la nécessité de prudence et de contrôle humain.
- Les plateformes comme Meta s’efforcent de présenter l’IA comme un outil d’assistance sous supervision humaine, même si les sceptiques craignent un décalage entre les promesses et la réalité.
- Le régulateur Ofcom se trouve dans une position délicate : concilier innovation technologique, respect des normes et protection des usagers, surtout les plus vulnérables.
Au final, on pourrait se demander si confier la sécurité à une intelligence artificielle — et non plus à une intelligence humaine — ne revient pas à confier nos clés à un robot domestique un peu trop enthousiaste. Après tout, un algorithme qui zappe les contrôles, ce n’est peut-être que le début d’une nouvelle forme d’aléatoire… Pas sûr que ce soit le progrès que tout le monde attendait, mais au moins, ça promet quelques débats bien piquants autour de la machine à café numérique.