En janvier, des milliers d’électeurs du New Hampshire ont reçu un appel téléphonique où la voix entendue ressemblait à celle du président Biden exhortant les démocrates à ne pas voter lors des primaires de l’État, à quelques jours seulement de cet événement.
“Nous connaissons la valeur de voter démocratiquement quand nos voix comptent. Il est important de garder votre vote pour l’élection de novembre,” affirmait la voix au bout du fil.
Cependant, il ne s’agissait pas de Biden, mais d’un deepfake généré par une intelligence artificielle, reflétant ainsi les craintes que les élections mondiales de 2024 puissent être manipulées à l’aide de contenus visuels, audio et vidéo falsifiés, en raison des avancées rapides de la technologie d’IA générative.
“La situation cauchemardesque serait qu’un jour avant, le jour même ou juste après l’élection, une image, une vidéo ou un audio révélateur crée une onde de choc,” a déclaré Hany Farid, professeur à l’Université de Californie à Berkeley, spécialisé dans les médias manipulés.
Ce deepfake de Biden avait été commandé par un consultant politique démocrate qui a déclaré l’avoir fait pour alerter sur les risques liés à l’IA. Ce dernier a été condamné à une amende de 6 millions de dollars par la FCC et inculpé au New Hampshire.
Néanmoins, alors que 2024 avançait, la vague redoutée de deepfakes trompeurs et ciblés ne s’est pas réellement matérialisée.
“Ce n’était pas tout à fait l’année des élections marquées par l’IA comme beaucoup l’avaient prévu,” a déclaré Zeve Sanderson, spécialiste des transformations sociétales liées à l’information numérique au Centre pour les médias sociaux et la politique de NYU.
Au lieu de cela, l’utilisation la plus visible de l’IA dans de nombreux pays a consisté à produire des mèmes et du contenu dont les origines artificielles n’étaient pas masquées. Souvent, ces contenus étaient partagés ouvertement par des politiciens et leurs partisans.
Farid a indiqué qu’en entrant dans cette année, il était plus préoccupé par ce type de “mort par mille coupures” plutôt que par un scénario explosif lié à l’IA. “Je ne pense pas que les images aient été créées pour être clairement trompeuses, mais pour promouvoir un récit, et la propagande fonctionne,” a-t-il ajouté. “Je pense qu’il y a eu une pollution générale de l’écosystème de l’information où les gens commencent simplement à abandonner.”
Ressusciter un dictateur décédé
Prenons l’exemple de l’Indonésie, où le parti politique Golkar a utilisé l’IA pour faire revivre Suharto, le dictateur qui a régné pendant des décennies et décédé en 2008.
Dans une vidéo diffusée sur le réseau social X par le vice-président du parti, le faux Suharto déclare : “Je suis Suharto, le deuxième président de l’Indonésie,” avant d’approuver les candidats du Golkar, affirmant qu’ils “continueront mon rêve de progrès pour l’Indonésie.”
Peu après, le gendre de Suharto, soutenu par Golkar, fut élu président.
Les mèmes générés par l’IA étaient également très présents en Inde, où la plus grande élection démocratique du monde s’est tenue au printemps dernier.
En mai, dans un bazar à Jaipur, un commerçant nommé Dilip rapportait que ses amis lui avaient envoyé des mèmes IA sur WhatsApp, la plateforme de messagerie populaire de Meta. Il a précisé qu’il appréciait ceux qui se moquaient du leader d’opposition Rahul Gandhi, notamment un où une version IA de Gandhi était représentée comme un voleur idiot, imaginant tout l’argent qu’il volerait s’il gagnait.
Cependant, Dilip a affirmé qu’il avait déjà pris sa décision sur son vote, malgré les mèmes.
Un artiste de l’IA en Inde, professionnellement connu sous le nom de Sahid SK, a déclaré qu’il s’était tourné vers les mèmes car ils comportaient moins de risques d’être poursuivis en diffamation par des candidats en colère. Selon lui, les mèmes sont un clin d’œil, et non une tromperie flagrante.
“Je pense que c’est la seule raison pour laquelle nous n’avons pas vu beaucoup de deepfakes durant cette élection. Parce que tout le monde a peur des mises en demeure,” a ajouté Sahid SK.
De nombreuses narratives fausses et trompeuses ont circulé en Inde et dans d’autres pays sans utiliser l’IA, mais plutôt par le biais de vidéos modifiées, connues sous le nom de “cheapfakes.”
Musk et Trump adoptent les mèmes générés par l’IA
Aux États-Unis, les mèmes politiques et les vidéos virales allaient des images retouchées et des extraits sortis de leur contexte aux portraits générés par IA représentant la vice-présidente Kamala Harris dans des vêtements soviétiques ou des Afro-Américains soutenant l’ancien président Donald Trump.
Brandon Bell / Getty Images
En juillet, Elon Musk, propriétaire de X, a partagé une fausse publicité où un clone IA de la voix de Harris se décrit comme “l’embauche ultime en matière de diversité,” sans préciser que la vidéo avait initialement été postée comme une parodie.
Musk et d’autres partisans de Trump ont régulièrement partagé des mèmes IA tournant en dérision Harris et les démocrates tout en faisant la promotion de l’ancien président.
Trump lui-même a publié une image cartoonish générée par IA prétendant montrer Taylor Swift en train de le soutenir — ce qui, pour être clair, n’était pas le cas.
Sanderson a précisé que l’utilisation de l’IA n’a pas pour but de changer d’avis aux électeurs, mais plutôt de “faire en sorte que leur candidat préféré ait l’air patriotique ou noble, tout en présentant leur candidat adverse comme malfaisant.” Il a noté que ces manipulations pouvaient être réalisées avec des outils classiques de retouche photo et vidéo, mais “l’IA générative rend cela beaucoup plus facile.”
Sanderson a également mis en garde contre le fait que l’IA a peut-être été utilisée de manières moins détectables. “Je ne pense toujours pas que nous ayons une bonne idée des façons dont l’IA générative a été utilisée à grande échelle, par qui et pour quelles raisons,” a-t-il déclaré.
De plus, il est difficile de tracer une ligne directe entre les IA identifiées cette année et la manière dont les gens ont voté, fait remarquer Farid de l’UC Berkeley. “Pensez-vous que cela a changé le résultat de l’élection ? Non,” a-t-il affirmé. “Pensez-vous que cela a eu un impact sur la façon de penser des gens ? Oui, je pense que cela a été le cas. Et je pense que cela continuera à faire effet.”
Article original rédigé par : Diaa Hadid.
Points à retenir
- Les deepfakes posent une menace croissante lors des élections, mais leur impact réel semble limité jusqu’à présent.
- Des exemples de manipulation médiatique utilisent davantage de mémétiques que des deepfakes sophistiqués, comme vu en Inde et en Indonésie.
- Les acteurs politiques utilisent des mèmes IA pour influencer l’opinion sans se soucier des conséquences légales potentielles.
La question se pose donc : alors que la technologie continue d’évoluer, comment pourrions-nous mieux fortifier notre écosystème informationnel face à ces nouvelles formes de manipulation ? La vigilance collective et l’éducation aux médias pourraient-elles devenir des outils essentiels pour préserver l’intégrité des processus électoraux ?