Les deepfakes alimentés par l’IA constituent un véritable casse-tête pour les créateurs, et TikTok s’active enfin pour contrer ce phénomène. Le consultant en médias sociaux, Matt Navarra, a repéré que la plateforme teste discrètement un nouvel outil d’opt-in qui détecte les contenus générés par l’IA imitant le visage d’un créateur, permettant à celui-ci de les signaler directement.
Un porte-parole de TikTok aux États-Unis, Zachary Kizer, a confirmé à The Verge que ce test est pour l’instant limité à un petit groupe de créateurs américains. Cette initiative place TikTok dans une position concurrentielle face à YouTube, qui a déjà élargi son propre outil de détection de similitudes pour les créateurs éligibles de plus de 18 ans après plusieurs mois de tests discrets, et a même accordé des protections similaires aux célébrités et aux agences de talents plus tôt cette année.
Pour lutter contre les deepfakes, TikTok veut une photo de votre visage
L’outil de détection de similitudes de TikTok est facultatif, mais les créateurs souhaitant l’utiliser doivent d’abord vérifier leur identité via Jumio, ce qui inclut un selfie en temps réel et une vérification d’identité. Selon Kizer, TikTok ne conserve pas les documents d’identité, tandis que les données faciales sont uniquement utilisées pour faire correspondre le visage d’un créateur et identifier des contenus générés par l’IA non autorisés.
Une fois la vérification terminée, TikTok commence à analyser les contenus générés par l’IA susceptibles de présenter le visage ou le caractère du créateur. Si des correspondances potentielles sont trouvées, le créateur peut les examiner et signaler les publications ou les comptes qu’il considère comme des imitations.
Pourquoi l’approche d’opt-in de TikTok est-elle pertinente ?
Les événements récents ont montré à quelle vitesse les portraits générés par l’IA peuvent soulever des controverses. Plus tôt ce mois-ci, Meta a lancé Muse Image, permettant à quiconque de générer des images AI à partir de photos publiques d’Instagram, avec chaque compte opté par défaut. La réaction a été si rapide que Meta a retiré la fonctionnalité seulement trois jours plus tard, admettant avoir fait une erreur.
TikTok inverse cette dynamique : la vérification est préalable, la participation est volontaire, et les créateurs gardent le contrôle. Avec YouTube et TikTok en tête de ce type de protection, la détection de similitudes générées par l’IA devient rapidement un outil que les créateurs attendent de toutes les grandes plateformes vidéo.
Points à retenir
- Le nouvel outil de TikTok est en phase de test avec un nombre restreint de créateurs américains.
- Les créateurs doivent passer par une vérification d’identité pour activer la détection de similitudes.
- Une fois vérifiés, les créateurs peuvent signaler tout contenu non autorisé les concernant.
- Cette initiative contraste avec les récentes controverses liées à la génération d’images par l’IA sur d’autres plateformes.
- La détection de similitudes pourrait devenir un standard entre les grandes plateformes vidéo.
En tant que créateur ou consommateur de contenu, il est essentiel de se pencher sur les implications de cette avancée. Les outils de détection sont une étape vers un environnement numérique plus sûr, mais quelle place laisserons-nous à la créativité et à l’authenticité face à ces technologies puissantes ? Ce débat mérite toute notre attention.