Une vidéo jugée antisémite sur TikTok, initialement supprimée grâce à une modération par intelligence artificielle, a été rétablie après un appel du créateur de contenu, supervisé par un modérateur humain, a indiqué l’entreprise.
Pour des raisons légales, les détails de la vidéo ne peuvent pas être publiés, mais ce revirement met en lumière le fait que le jugement humain peut parfois compliquer les décisions correctes prises par l’IA, a précisé TikTok.
Zachary Hecht, responsable mondial de la politique, de la confiance et de la sécurité chez TikTok, a discuté de ce sujet lors de son intervention devant la Commission royale sur l’antisémitisme et la cohésion sociale.
Zachary Hecht a déclaré que les modérateurs humains peuvent être moins précis que l’IA.
La Fondation Dor a signalé le contenu et fourni des preuves lors d’une audience antérieure de la commission royale.
Après avoir été examiné par au moins trois modérateurs humains différents, le contenu a finalement été retiré début juillet.
« Cela démontre que, dans certains cas, une modération automatisée peut aboutir à une bonne décision, mais que le jugement humain peut parfois compliquer cela », a déclaré M. Hecht.
« Je veux aussi m’assurer que quiconque a examiné ce contenu reçoive une formation ciblée pour comprendre l’issue correcte de ce cas. »
« J’ai confiance que, lorsqu’il a été porté à la connaissance de membres plus seniors de l’équipe… ils ont abouti à la bonne conclusion. »
La supériorité de TikTok remise en question
Près de 100 % des publications modérées par TikTok en Australie sont retirées de manière proactive avant d’être signalées par des utilisateurs.
Selon l’avocat senior Richard Lancaster, la société de médias sociaux se vante d’avoir une « performance substantiellement supérieure en matière de taux de suppression » par rapport à d’autres plateformes.
Cela malgré un manque de données concernant la quantité de contenu nuisible manqué par les processus de modération de TikTok.
M. Hecht a révélé que « 98 % du contenu » identifié comme contrevenant aux règles communautaires de l’entreprise a été « retiré de manière proactive » avant toute plainte.
« Cela signifie que nous avons supprimé ce contenu avant que des utilisateurs ne nous le signalent. »
L’avocat Nicholas Bender a souligné que TikTok ne conserve pas de données sur le contenu « manqué » par son processus de modération ni ne rapporte le volume de matériel antisémite partagé en ligne.
M. Bender a également partagé des données montrant que les suppressions de publications TikTok « violant les règles de sécurité et de civilité » en Australie ont diminué, passant de 338 000 en 2023 à 67 000 au premier trimestre de 2026.
« Tout cela indique qu’année après année, TikTok détecte et retire moins de contenus violants, n’est-ce pas ? » a-t-il questionné.
En réponse, M. Hecht a évoqué la possibilité qu’il y ait « moins de contenu contrevenant publié » dans un premier temps.
Cette assertion contredisait un témoignage antérieur de Dr Oboler, qui indiquait une « forte hausse » de l’antisémitisme depuis l’attaque du 7 octobre.
M. Hecht a qualifié le processus de modération de « dynamique », impliquant à la fois l’automatisation et la révision humaine.
« Nous essayons régulièrement d’identifier le meilleur moyen de garantir que les acteurs nuisibles ne s’engagent pas sur la plateforme, tout en éduquant les utilisateurs sur les comportements à adopter », a-t-il déclaré.
Bien que le contenu nuisible soit identifié et examiné, les utilisateurs sont généralement bannis après « plusieurs violations ».
« De plus, en cas de violations absolument flagrantes, nous bannissons un utilisateur après une seule instance », a-t-il ajouté devant la commission.
Comparaison entre TikTok et d’autres plateformes de médias sociaux.
« Ce n’est pas nécessairement couvert par la section sur la haine et l’idéologie haineuse, mais nous interdisons également l’incitation à la violence. »
« Lorsque l’incitation à la violence est active, comme c’est souvent le cas envers le peuple juif, le compte est immédiatement banni. »
Au début de la troisième audience, la commission royale a entendu qu’un post intitulé « Jill all Kews » a réussi à contourner les processus de modération de TikTok.
Ce contenu visait la présidente et membre du conseil de l’école juive la plus importante d’Australie, Judy Lowy, la qualifiant de « Genocide Judy ».
Une autre mère juive a témoigné que sa fille avait été la cible d’insultes antisémites sur TikTok.
« J’aurais aimé qu’Hitler ait gazé ta famille pour qu’on ne se soit jamais rencontrés », a écrit un commentaire à la fillette en classe de cinquième.
À suivre…
Points à retenir
- La modération de contenu sur TikTok soulève des questions sur l’efficacité de l’IA par rapport au jugement humain.
- La performance de TikTok en matière de suppression proactive soulève des interrogations sur l’origine des contenus violants.
- Les utilisateurs peuvent être bannis pour des violations multiples, mais une seule violation grave entraîne une exclusion immédiate.
- Il existe une absence de données sur le volume de contenu nuisible qui échappe à la modération TikTok.
- Les témoignages de victimes d’antisémitisme sur la plateforme montrent l’impact réel sur des individus spécifiques.
Ces préoccupations me poussent à réfléchir à la responsabilité des plateformes en ligne et à l’importance d’un cadre réglementaire solide pour protéger les utilisateurs. Devons-nous vraiment nous fier à des algorithmes et à des jugements humains, qui semblent parfois contradictoires, pour gérer des contenus aussi sensibles ? La discussion est ouverte et il semble que nous ayons encore beaucoup à apprendre sur la meilleure manière de naviguer dans cet espace complexe.