TikTok teste un nouvel outil de détection des deepfakes alimenté par l’IA pour aider les créateurs à identifier et signaler les versions non autorisées d’eux-mêmes.
La création de contenu généré par l’IA devient de plus en plus difficile à distinguer du contenu authentique, posant de nouveaux défis pour les créateurs sur les réseaux sociaux. Pour faire face à ce problème, TikTok a discrètement commencé à tester un nouvel outil de détection des deepfakes conçu pour aider les créateurs à repérer et signaler les versions non autorisées d’eux-mêmes produites par des algorithmes d’IA.
Bien que cette fonctionnalité soit actuellement limitée à un petit groupe de créateurs aux États-Unis, elle représente une avancée vers un meilleur contrôle des créateurs sur l’utilisation de leur identité en ligne.
Comment fonctionne la détection par IA de TikTok
Selon Digital Music News, les créateurs admissibles peuvent s’inscrire au programme en vérifiant leur identité via Jumio, une entreprise spécialisée dans la vérification d’identité. Ce processus inclut un scan selfie en direct et une vérification d’identité.
Une fois vérifiés, TikTok scanne le contenu généré par l’IA sur la plateforme à la recherche de correspondances potentielles avec l’image de ce créateur. Si le système identifie des possibles impersonations, les créateurs peuvent examiner les résultats et signaler les vidéos ou les comptes utilisant leur image sans autorisation.
TikTok a précisé à The Verge qu’il ne conserve pas les documents d’identité des utilisateurs et que les informations faciales sont utilisées uniquement pour la correspondance d’image et l’identification d’utilisations non autorisées potentielles.
Pour l’instant, la fonctionnalité n’est testée qu’avec un groupe restreint de créateurs aux États-Unis, et aucune annonce n’a été faite quant à sa disponibilité future à plus grande échelle.
Importance de cette nouveauté pour les artistes
L’identité d’un artiste est tout aussi précieuse que sa musique.
À mesure que les outils d’IA deviennent plus accessibles, la création de vidéos, d’images, voire de voix réalistes et trompeuses est facilitée. Alors que certains contenus générés par l’IA visent clairement à faire rire ou divertir, d’autres ont été utilisés pour diffuser de la désinformation, des arnaques ou des endorsements trompeurs.
Les plateformes reconnaissent de plus en plus la nécessité de protéger les créateurs. Par exemple, YouTube teste déjà une technologie de reconnaissance faciale par IA pour aider les utilisateurs à identifier des versions non autorisées d’eux-mêmes créées par des algorithmes.
L’industrie musicale prend également des mesures similaires. Deezer, par exemple, a introduit une technologie de détection de musique par IA pour identifier les pistes générées par l’IA téléchargées sur sa plateforme, contribuant ainsi à une meilleure transparence tout en luttant contre les fraudes de streaming et le contenu trompeur.
Ces avancées montrent que la protection par rapport à l’IA devient un élément clé de l’écosystème créateur, aux côtés du droit d’auteur traditionnel et de la modération de contenu.
Perspectives d’avenir
Bien que l’outil de TikTok soit encore en phase de test, cela indique que les plateformes commencent à s’attaquer à l’un des défis majeurs de l’IA : protéger l’identité des créateurs.
Pour les artistes indépendants, maintenir une présence en ligne officielle est plus crucial que jamais. Mettre à jour vos profils, partager du contenu via des canaux vérifiés et distribuer votre musique sur les grandes plateformes peut aider vos fans à identifier votre travail authentique alors que les médias générés par l’IA continuent de se développer.
Points à retenir
- TikTok teste un outil de détection des deepfakes pour protéger l’identité des créateurs.
- La vérification d’identité se fait via Jumio avec un scan selfie et un contrôle d’identité.
- Actuellement, la fonctionnalité n’est pas encore disponible pour tous les créateurs.
- La protection des créateurs devient essentielle face à la montée des contenus générés par l’IA.
- Les plateformes, comme YouTube et Deezer, intensifient leurs efforts pour contrer la désinformation.
En tant que passionné de musique et de création, il est essentiel de réfléchir à l’impact que ces outils peuvent avoir sur notre manière d’interagir avec notre audience et de protéger notre art. Quel sera l’avenir de la création artistique à l’ère de l’IA, et comment pouvons-nous, en tant que communauté, conserver notre authenticité face à ces défis?