En janvier, des milliers d’électeurs du New Hampshire ont entendu ce qui semblait être le président Biden exhortant les démocrates à ne pas voter lors de la primaire de l’État, à quelques jours du scrutin.
« Nous savons combien le vote démocrate est important lorsque nos voix comptent. Il est essentiel que vous réserviez votre vote pour l’élection de novembre », a déclaré la voix au téléphone.
Pourtant, ce n’était pas Biden. Il s’agissait d’un deepfake généré par intelligence artificielle, illustrant les craintes que la vague électorale mondiale de 2024 soit manipulée par des images, des sons et des vidéos falsifiés, en raison des avancées rapides en matière de technologie d’IA générative.
« La situation cauchemardesque serait qu’un jour avant, le jour même ou le lendemain des élections, une image, une vidéo ou un audio explosif fasse sensation », a affirmé Hany Farid, professeur à l’Université de Californie à Berkeley, spécialiste des médias manipulés.
Ce deepfake de Biden avait été commandé par un consultant politique démocrate, qui a déclaré avoir agi pour tirer la sonnette d’alarme sur l’IA. Il a depuis été condamné à une amende de 6 millions de dollars par la FCC et inculpé au New Hampshire.
Cependant, à mesure que 2024 avançait, la vague redoutée de deepfakes trompeurs et ciblés n’a pas réellement eu lieu.
« Ce ne fut pas l’année des élections à l’IA comme beaucoup l’avaient prédit », a déclaré Zeve Sanderson, qui étudie comment l’information numérique transforme la société au Centre de médias sociaux et de politique de NYU.
Au lieu de cela, l’utilisation la plus visible de l’IA dans de nombreux pays consistait à créer des mèmes et des contenus dont l’origine artificielle n’était pas cachée. Ces contenus étaient souvent partagés ouvertement par des politiciens et leurs soutiens.
Farid a indiqué qu’il était plus préoccupé par ce genre de « mort par mille coupures » que par le scénario du coup de théâtre lié à l’IA.
« Je ne pense pas que ces images aient été conçues pour être clairement trompeuses, mais elles visaient à promouvoir un récit, et la propagande fonctionne », a-t-il ajouté. « Il y a eu une sorte de pollution générale de l’écosystème de l’information, où les gens ont commencé à abandonner. »
Ramener à la vie un dictateur décédé
Prenons l’exemple de l’Indonésie, où le parti politique Golkar a utilisé l’IA pour ressusciter Suharto, le dictateur au pouvoir pendant longtemps, décédé en 2008.
« Je suis Suharto, le second président de l’Indonésie », déclare le deepfake de Suharto avant de soutenir les candidats du parti, dans une vidéo publiée sur le réseau social X par le vice-président de Golkar. Le faux Suharto déclare que les candidats de Golkar « poursuivront mon rêve de progrès pour l’Indonésie ». Peu après, le gendre de Suharto, qui avait également le soutien de Golkar, a été élu président.
Les mèmes générés par IA étaient également répandus en Inde, où le plus grand exercice démocratique au monde a eu lieu au printemps dernier.
En mai, dans un bazar à Jaipur, un commerçant nommé Dilip, qui n’a qu’un prénom, a confié à NPR que ses amis lui avaient envoyé des mèmes générés par IA sur WhatsApp, cette plateforme de messagerie populaire détenue par Meta.
Il a avoué apprécier ceux qui se moquaient du leader de l’opposition, Rahul Gandhi, comme un mème où une version IA de Gandhi était représentée comme un voleur stupide, imaginant tout l’argent qu’il volerait s’il remportait les élections.
Cependant, Dilip a précisé qu’en dépit des mèmes, il avait déjà décidé pour qui voter.
Un artiste de l’IA générative en Inde, qui se fait appeler Sahid SK, a expliqué qu’il choisissait de créer des mèmes par crainte d’être poursuivi pour diffamation par des candidats en colère. Selon lui, les mèmes sont une forme ludique, sans réelle tromperie.
« Je pense que c’est la seule raison pour laquelle nous n’avons pas vu beaucoup de deepfakes lors de cette élection. Tout le monde a peur des avis juridiques », a déclaré Sahid SK. De nombreux récits faux ou trompeurs ont circulé en Inde et dans d’autres pays sans recourir à l’IA — mais plutôt par le biais de vidéos modifiées, labellisées “cheapfakes”.
Musk et Trump s’approprient les mèmes générés par IA
Aux États-Unis, les mèmes politiques et les vidéos virales allaient des images retouchées à des clips sortis de leur contexte, jusqu’aux portraits générés par IA de la vice-présidente Kamala Harris vêtue à la soviétique et de Noirs américains soutenant l’ancien président Donald Trump.
En juillet, Elon Musk, propriétaire de X, a partagé une fausse publicité dans laquelle un clone IA de la voix de Harris se désignait comme « la représentante ultime de la diversité », sans préciser que la vidéo avait été initialement publiée comme une parodie.
Musk et d’autres partisans de Trump ont régulièrement partagé des mèmes d’IA se moquant de Harris et des démocrates tout en renforçant l’image de l’ancien président.
Trump, quant à lui, a posté une image d’IA caricaturale prétendant montrer Taylor Swift le soutenant — ce qu’elle n’a pas fait, pour être clair.
Sanderson a noté que cette utilisation de l’IA ne vise pas à changer d’avis, mais à « faire paraître leur candidat préféré patriotique ou noble [ou] à rendre leur concurrent opposé maléfique ». Il a précisé que ces manipulations pouvaient aussi se faire avec des outils d’édition traditionnels, mais que « l’IA générative rend cela beaucoup plus simples ».
En outre, Sanderson a averti que l’IA pourrait avoir été utilisée de manière moins détectable. « Je ne pense toujours pas que nous ayons une bonne compréhension rigoureuse de la façon dont l’IA générative a été utilisée à grande échelle, par qui et à quelles fins », a-t-il déclaré.
De plus, il est difficile de tracer un lien direct entre les faux d’IA identifiés cette année et la façon dont les gens ont voté, explique Farid de l’Université de Californie à Berkeley.
« Pensez-vous que cela ait changé le résultat de l’élection ? Non. Cela a-t-il eu un impact sur la façon de penser des gens ? Oui, je pense que cela a été le cas. Et je pense que cela continuera à influencer. »
Article original rédigé par : Diaa Hadid.
Points à retenir
- La technologie des deepfakes soulève des inquiétudes croissantes quant à son utilisation dans le domaine électoral.
- Le phénomène de manipulation des contenus numériques a pris diverses formes, notamment à travers des mèmes, souvent partagés par des partis politiques.
- Les électeurs continuent de faire leurs choix malgré la présence d’informations trompeuses, ce qui montre une résilience face à la désinformation.
La question qui se pose est de savoir comment la société peut évoluer face à ces nouvelles formes de communication et de désinformation. Les plateformes numériques auront-elles un rôle plus actif à jouer pour atténuer les effets de ces manipulations ? Les électeurs, quant à eux, sont-ils suffisamment conscients et informés pour naviguer dans cet océan d’informations façonnées par l’IA ?