Actuellement, TikTok traverse une période de changements significatifs.
En plus des mises à jour concernant la sécurité en ligne et de nouvelles fonctionnalités, la plateforme annonce des réformes majeures dans sa modération de contenu.
Une attention particulière est portée sur la sécurité en ligne, surtout au Royaume-Uni.
Dans ce contexte, TikTok a accordé une interview exclusive à Sky News avec Ali Law, un cadre supérieur en charge de la sécurité de la plateforme.
L’importance croissante de l’intelligence artificielle
Parmi les évolutions notables, TikTok augmente l’utilisation de l’intelligence artificielle pour modérer son contenu.
Comme d’autres plateformes de réseaux sociaux, TikTok utilise l’IA depuis plusieurs années pour détecter les contenus violant ses politiques. Selon l’entreprise, environ 85 % des contenus inappropriés seraient supprimés sans intervention humaine.
Le recours à l’IA se renforce, entraînant une diminution de la dépendance vis-à-vis des modérateurs humains. Mais qu’est-ce qui a changé pour que TikTok ait confiance en cette technologie pour assurer la sécurité des jeunes utilisateurs ?
Ali Law, directeur des affaires publiques pour le nord de l’Europe, a expliqué que la sophistication des modèles d’IA a considérablement augmenté. Par exemple, alors que les anciens modèles pouvaient simplement identifier un couteau, les nouvelles versions sont capables de distinguer un couteau utilisé dans une vidéo de cuisine d’un couteau dans une scène violente.
“Nous fixons un standard élevé dans le déploiement de nouvelles technologies de modération,” affirme-t-il. “Nous veillons à ce que les résultats des processus de modération existants soient au moins égaux, voire meilleurs, que ceux des nouvelles méthodes que nous introduisons.”
Réduction des postes de modérateurs humains
Cette augmentation de l’IA entraîne également des réductions au sein de l’équipe de modérateurs humains, avec plus de 400 postes menacés à Londres. Bien qu’il ait été rapporté que certains de ces emplois pourraient être transférés dans d’autres pays.
Le 30 octobre, Paul Nowak, secrétaire général du syndicat TUC, a déclaré que TikTok avait “déjà échoué à fournir des réponses satisfaisantes” sur les impacts des réductions sur la sécurité des utilisateurs au Royaume-Uni.
Lors d’un échange avec Sky News, Ali Law a souligné que l’objectif de la société est de garantir un maximum de sécurité sur la plateforme, en déployant les technologies les plus avancées.
La commission britannique sur la science, la technologie et l’innovation, dirigée par la députée travailliste Chi Onwurah, a ouvert une enquête sur ces suppressions, les jugeant “profondément préoccupantes”. Elle a aussi affirmé que l’IA n’est “pas encore fiable ni suffisamment sécurisée” pour prendre en charge ces tâches.
Cependant, Law, en tant que parent lui-même, a exprimé ses inquiétudes concernant la sécurité en ligne. “C’est pourquoi je suis confiant dans les changements que nous appliquons chez TikTok en matière de modération de contenu,” a-t-il ajouté.
Outils de bien-être améliorés
À la fin d’un événement sur la sécurité en ligne au bureau de TikTok à Dublin, l’entreprise a présenté plusieurs nouvelles fonctionnalités visant à promouvoir la sécurité des utilisateurs, dont un nouvel espace “Temps et Bien-être” dans l’application.
Ce hub, conçu avec le Digital Wellness Lab de l’hôpital pour enfants de Boston, propose des techniques de pleine conscience, comme des affirmations et des recommandations pour réduire son temps d’écran.
Cori Stott, directrice exécutive du laboratoire, a souligné que les utilisateurs souhaitent des outils de bien-être “là où ils se trouvent déjà”, sans avoir besoin de télécharger une autre application.
Toutefois, de nombreux rapports suggèrent que l’utilisation des smartphones et des réseaux sociaux a un impact négatif sur la santé mentale des jeunes… TikTok pourrait-il tenter de résoudre un problème qu’elle a contribué à créer ?
“Si vous êtes un adolescent sur l’application, vous découvrirez que si vous avez moins de 16 ans, votre profil est privé, vous n’avez pas accès à la messagerie directe et un temps d’écran limité est imposé à une heure, avec une suggestion d’arrêt à 22 heures,” explique Law.
“Cela vise à promouvoir une approche équilibrée dans l’utilisation de l’application et à s’assurer que les utilisateurs ont des options pour définir leurs propres limites,” a-t-il conclu.
Points à retenir
- Une utilisation accrue de l’IA pour la modération de contenu chez TikTok.
- Réduction significative des postes de modérateurs humains.
- Déploiement de nouveaux outils de bien-être pour les utilisateurs.
- Investigations en cours concernant l’impact de ces réductions sur la sécurité des utilisateurs.
- Les jeunes utilisateurs sont soumis à des restrictions sur l’application pour favoriser un usage responsable.
En réfléchissant à ces développements, je ne peux m’empêcher de m’interroger sur l’équilibre délicat entre technologie et emploi. Les avancées en matière d’intelligence artificielle peuvent offrir des solutions innovantes, mais quel coût humain représentent-elles ? Jusqu’où devrions-nous permettre à l’IA de s’introduire dans des domaines aussi sensibles que celui de la modération de contenu et la sécurité des jeunes ? C’est un débat essentiel à avoir pour l’avenir de nos sociétés.