Les inquiétudes concernant les médias synthétiques et la manipulation coordonnée des plateformes en ligne ont évolué d’une simple préoccupation théorique à une réalité documentée. Des chercheurs, des régulateurs et des organisations de la société civile travaillent à comprendre comment les systèmes de recommandation de contenu basés sur des algorithmes peuvent être exploités — non seulement par des acteurs idéologiques, mais également par des utilisateurs ordinaires cherchant à tirer profit financièrement.
La Fundación Maldita.es est une organisation à but non lucratif espagnole, active depuis 2017 dans l’intégrité de l’information et la vérification des faits. Sa dernière enquête s’intéresse à TikTok et met en lumière des questions essentielles concernant le programme de monétisation des créateurs de la plateforme. Les chercheurs de Maldita ont documenté un réseau de centaines de comptes à travers dix-huit pays, produisant des vidéos générées par intelligence artificielle sur des manifestations qui n’ont jamais eu lieu. Leur objectif n’était pas motivé par des convictions politiques, mais par le désir d’accumuler des abonnés, de se qualifier pour le programme de partage des revenus de TikTok, et, dans certains cas, de vendre les comptes par la suite.
Dans cet épisode, je suis rejoint par Carlos Hernández-Echevarría, directeur associé de la Fundación Maldita.es, et Marina Sacristán, responsable des politiques publiques.
Images générées par IA de manifestations fictives publiées sur TikTok. Source : Maldita
Carlos Hernández-Echevarría : Je m’appelle Carlos Hernández-Echevarría, je suis directeur associé de la Fundación Maldita.es, et j’y fais du travail autour des politiques publiques et de la responsabilité des plateformes.
Marina Sacristán : Bonjour, je suis Marina Sacristán, responsable des politiques publiques ici chez Maldita, et ma formation est en relations internationales.
Justin Hendrix : Carlos, pour nos auditeurs qui ne connaissent pas Maldita, pouvez-vous nous expliquer votre domaine d’activité ?
Carlos Hernández-Echevarría : Maldita est une organisation à but non lucratif. Depuis 2017, notre mission est de défendre l’intégrité de l’information et de lutter contre la désinformation. Nous avons commencé par la vérification des faits, mais avons rapidement réalisé que nous devions nous engager dans d’autres domaines, notamment l’éducation, l’ingénierie et surtout, les politiques publiques, pour avoir un impact significatif.
Justin Hendrix : Je suis ravi de discuter avec vous de votre nouveau rapport sur TikTok et la polarisation. Vous affirmez que TikTok finance cette polarisation en Europe et ailleurs. Marina, pouvez-vous expliquer la méthodologie de votre enquête ?
Marina Sacristán : Nous avons débuté notre enquête sans connaître l’ampleur du problème. En cherchant des exemples de manifestations prétendument en cours en Espagne, nous avons identifié des vidéos générées par IA. Nous avons ensuite découvert des comptes similaires dans d’autres pays, réalisant qu’il s’agissait d’un modus operandi commun. Nous avons collecté un certain nombre de ces contenus pour évaluer leur impact.
Justin Hendrix : Quelles techniques d’enquête avez-vous utilisées ?
Marina Sacristán : Nous avons veillé à organiser méthodiquement toutes les données recueillies. Cela nous a permis d’évaluer la coordination entre différents comptes, d’examiner les noms d’utilisateur, les dates de création et les changements de nom. Nous avons aussi eu recours à des logiciels pour identifier les contenus générés par IA.
Justin Hendrix : Que pouvez-vous dire sur l’échelle des activités découvertes ?
Marina Sacristán : Environ deux mois de recherche nous ont permis de cibler 550 comptes actifs dans 18 pays, produisant plus de 5 080 vidéos. Nous avons observé que ces contenus partageaient des caractéristiques similaires, bien que nous ayons aussi rencontré des contenus divers.
Justin Hendrix : Parlons du modèle économique. Quels liens avez-vous observé entre les créateurs et le programme de monétisation de TikTok ?
Carlos Hernández-Echevarría : Ce qui m’a le plus frappé dans cette enquête, c’est la manière dont ces modèles économiques favorisent la désinformation. Les créateurs sont souvent plus motivés par le profit que par un quelconque idéal. Ils exploitent le contenu de manière à s’aligner sur ce que l’algorithme de TikTok valorise.
Marina Sacristán : Ces créateurs utilisent des VPN pour contourner les restrictions géographiques et créer des comptes dans des pays autorisés à monétiser, afin de répondre aux critères requis.
Justin Hendrix : Quelle a été la réaction des plateformes face à ces découvertes ?
Carlos Hernández-Echevarría : Nous sommes encouragés par l’intérêt croissant des régulateurs et des collègues chercheurs, car notre enquête confirme certains soupçons sur les corrélations entre les modèles économiques et le contenu problématique.
Points à retenir
- Les réseaux sociaux peuvent être exploités pour générer des contenus non authentiques, motivés par un gain financier.
- La Fundación Maldita.es joue un rôle clé dans la vérification des faits en ligne.
- Les créateurs de contenu utilisent des techniques sophistiquées pour contourner les restrictions des plateformes.
- Les politiques des plateformes, malgré leur existence, souffrent souvent d’un manque d’application efficace.
- Les enjeux de la désinformation sont amplifiés par les modèles économiques favorisant certains types de contenu.
Au-delà des préoccupations soulevées par cette enquête, il est important de se pencher sur l’impact à long terme des contenus générés par IA sur notre discours public. Cette problématique soulève des questions cruciales sur l’avenir de nos plateformes de communication et notre capacité à naviguer dans une ère où la vérité peut être plus difficile à discerner que jamais. Comment pouvons-nous garantir que ces outils soient utilisés pour rassembler plutôt que diviser ? La discussion est ouverte.