Zuhair Lakhani est un jeune Américain âgé de 21 ans. Il prétend gérer une ferme numérique composée d’environ 4 200 smartphones. Dans son duplex à Los Angeles, il abrite environ 1 200 appareils, tandis que les 3 000 autres sont répartis à divers endroits de la ville californienne.
Lakhani explique qu’une intelligence artificielle (IA) régit cet ensemble de téléphones, capable de créer des profils sur les réseaux sociaux, principalement sur TikTok. Cette IA trompe le système d’algorithmes de la plateforme en naviguant pendant plusieurs semaines comme si elle était un utilisateur humain. Elle le fait subtilement, faisant défiler le contenu sans relâche, s’arrêtant, aimant, commentant, partageant, et se désintéressant…
Selon Lakhani, il peut créer n’importe quel type de profil désiré. Il pourrait donner vie à une femme au foyer de 58 ans de Barcelone, à un coureur de 37 ans de Riudellots de la Selva, ou à une jeune migrante marocaine ayant réussi à atteindre l’Espagne après avoir traversé Ceuta.
Plus de 6 000 entreprises auraient sollicité ses services, d’après ce qu’il a partagé dans un compte rendu détaillé. Ses clients lui versent 450 dollars par mois pour sa prestation
Son but est avant tout de vendre des produits. Lakhani l’explique ainsi : « Si vous nous dites : ‘Je veux vendre mes raquettes de tennis’, nous créerons de nouveaux comptes TikTok et les adapterons aux amateurs de tennis. Ces comptes visualiseront du contenu lié au tennis, commenteront et interagiront avec des sujets de tennis pour que les algorithmes perçoivent un nouvel amateur de tennis. »
Des acteurs invisibles créent artificiellement une tendance
Ainsi, lorsque le compte créé par l’IA de Lakhani commence à publier sur des raquettes, TikTok considérera ces vidéos comme authentiques, les affichant à de vrais amateurs de tennis, dont certains voudront acheter le produit présenté mystérieusement. En d’autres termes, des influenceurs synthétiques imitent une tendance afin que des utilisateurs réels soient incités à acheter un produit. L’artificiel se mêle alors à l’authentique, rendant la distinction difficile.
Joe Lim, lui aussi, maîtrise l’art de la manipulation sur les réseaux sociaux. Il a utilisé l’intelligence artificielle pour créer des influenceurs. Il estime que 90 % de ce que l’on voit sur TikTok, Instagram ou X est de la publicité déguisée. Si des millions de regards sont rivés sur l’écran d’un téléphone, c’est là qu’il faut aller dénicher des clients.
Âgé de 29 ans, Lim a dirigé une entreprise nommée Floodify, qui a atteint un pic en gérant 65 000 comptes fictifs sur les réseaux sociaux pour promouvoir les envies de ses clients. En une seule journée, Lim affirmait pouvoir publier 50 000 vidéos sur TikTok, Instagram, YouTube et X, toutes conçues pour donner l’impression que de « vrais » utilisateurs interagissaient de manière spontanée.
Ces deux exemples illustrent comment des acteurs invisibles peuvent artificiellement créer l’apparence d’une tendance ou d’un consensus, et comment le marketing obscur ainsi que la propagande ont subtilement infiltré les conversations d’utilisateurs réels pour influencer leurs opinions.
Le 2 août, l’article 50 du règlement sur l’IA de l’Union Européenne a été mis en application. Ce texte impose des obligations de transparence aux fournisseurs et aux responsables du déploiement de certains systèmes d’IA.
Parmi ses dispositions, il exige que les systèmes génératifs intègrent des mécanismes permettant de détecter le contenu généré ou manipulé artificiellement, et établit des obligations d’information spécifiques pour certains contenus, y compris les deepfakes et les textes créés par l’IA sur des questions d’intérêt public. Cependant, une question demeure : comment étiqueter un utilisateur qui n’existe pas ?
La vérité, déjà fort émoussé, a perdu son éclat sur Twitter il y a plusieurs années, et l’authenticité semble avoir disparu parmi les reels de TikTok et Instagram. Avons-nous déjà vécu une forme de révolution ou de trouble social provoqué, ne serait-ce qu’en partie, par des acteurs synthétiques, sans même nous en apercevoir ?
Points à retenir
- Zuhair Lakhani gère une ferme numérique avec 4 200 smartphones, gérant des profils sur les réseaux sociaux eux aussi façonnés par une IA.
- Les influenceurs artificiels peuvent engendrer des tendances en trompant les algorithmes des réseaux sociaux.
- Des entreprises paient pour utiliser ces techniques dans le but de promouvoir leurs produits.
- Les réseaux sociaux sont inondés de publicité déguisée, ce qui complique la distinction entre réel et artificiel.
- Le cadre réglementaire européen se renforce pour faire face à ces défis mais pose des questions éthiques sur l’identité en ligne.
En considérant ces éléments, une réflexion s’impose : jusqu’où sommes-nous prêts à aller pour consommer et être influencés ? L’interaction humaine, telle que nous l’avons connue, pourrait-elle être redéfinie par ces nouvelles réalités numériques ? Cette problématique mérite d’être explorée pour mieux comprendre notre rapport à la technologie et à la vérité.