Profondes transformations : l’impact des deepfakes et des mèmes AI sur les élections mondiales de 2024

En janvier, des milliers d’électeurs du New Hampshire ont reçu des appels téléphoniques où une voix ressemblant à celle du président Biden exhortait les démocrates à ne pas voter lors des primaires de l’État, quelques jours avant l’élection.

“Nous savons combien il est crucial de voter démocrate lorsque nos voix comptent. Il est important que vous conserviez votre vote pour l’élection de novembre,” disait cette voix au bout du fil.

Mais il ne s’agissait pas de Biden. C’était un deepfake créé à l’aide de l’intelligence artificielle – révélant ainsi les craintes concernant la manipulation des élections mondiales de 2024 à travers de fausses images, des audio et vidéos, provoquées par les avancées rapides de la technologie d’IA générative.

“La situation cauchemardesque serait qu’un jour avant, le jour des élections ou le lendemain, une image, une vidéo ou un audio sensationnels mettent le feu aux poudres,” a expliqué Hany Farid, professeur à l’Université de Californie à Berkeley, spécialisé dans les médias manipulés.

Ce deepfake de Biden a été commandé par un consultant politique démocrate, qui a déclaré l’avoir réalisé pour alerter sur les dangers de l’IA. Il a été condamné à une amende de 6 millions de dollars par la FCC et inculpé de charges criminelles dans le New Hampshire.

Cependant, au fur et à mesure que 2024 avançait, la vague redoutée de deepfakes trompeurs et ciblés ne s’est en réalité pas manifestée.

“Ce n’était pas tout à fait l’année des élections sous influence de l’IA comme certains l’avaient prédit,” a déclaré Zeve Sanderson, chercheur à NYU au Centre pour les Médias Sociaux et la Politique.

À la place, l’utilisation la plus visible de l’IA dans de nombreux pays consistait à créer des mèmes et du contenu dont l’origine artificielle n’était pas dissimulée. Souvent, ces contenus étaient diffusés ouvertement par des politiciens et leurs partisans.

Farid a souligné qu’il était plus préoccupé par ce genre de “mort par mille coupures” plutôt que par un événement choquant lié à l’IA.

“Je ne pense pas que les images aient été créées pour être clairement trompeuses, mais elles étaient conçues pour promouvoir un récit, et la propagande fonctionne,” a-t-il ajouté. “Il y a eu une pollution générale de l’écosystème de l’information, où les gens ont commencé à abandonner.”

Resusciter un dictateur décédé

Prenons l’exemple de l’Indonésie, où le parti politique Golkar a utilisé l’IA pour faire renaître Suharto, le dictateur qui a dirigé le pays de 1967 à 1998. Dans une vidéo partagée sur X par le vice-président de Golkar, l’IA prénommée Suharto déclare : “Je suis Suharto, le deuxième président de l’Indonésie,” avant d’apporter son soutien aux candidats du parti.

Peu après, le gendre de Suharto — également soutenu par Golkar — a été élu président.

Des mèmes d’IA ont également été très présents en Inde, où la plus grande démocratie mondiale a eu lieu au printemps dernier. Un commerçant à Jaipur nommé Dilip a déclaré à NPR que ses amis lui avaient envoyé des mèmes générés par IA sur WhatsApp, notamment ceux se moquant du leader de l’opposition, Rahul Gandhi.

Dilip affirmait qu’il avait aimé les illustrations présentant un Gandhi en voleur stupide, imaginant tout l’argent qu’il volerait s’il gagnait.

Cependant, il a précisé qu’il avait déjà fait son choix pour qui voter.

Un artiste génératif en IA en Inde, connu sous le nom de Sahid SK, a affirmé s’être tourné vers les mèmes car il y avait moins de risques d’être poursuivi pour diffamation par des candidats mécontents. Pour lui, les mèmes présentent un clin d’œil, plutôt qu’une réelle représentation trompeuse.

“Je pense que c’est la raison pour laquelle nous n’avons pas vu beaucoup de deepfakes cette année. Parce que tout le monde a peur des procédures judiciaires,” a-t-il ajouté.

Nombre de récits faux ou trompeurs ont circulé en Inde et dans d’autres pays sans même recourir à l’IA, simplement à travers des vidéos retouchées, appelées “cheapfakes.”

Musk et Trump adoptent les mèmes générés par IA

Aux États-Unis, les mèmes politiques et les vidéos virales vont des images photoshoppées et des extraits hors contexte à des portraits générés par IA de la vice-présidente Kamala Harris en tenue soviétique ou d’Américains noirs soutenant l’ancien président Donald Trump.

En juillet, Elon Musk, propriétaire de X, a partagé une fausse publicité dans laquelle un clone vocal IA de Harris se décrit comme “le choix ultime en matière de diversité,” sans préciser que la vidéo était à l’origine une parodie.

Musk et d’autres partisans de Trump ont partagé en masse des mèmes IA se moquant de Harris et des démocrates tout en propageant l’image de l’ancien président. Trump lui-même a publié une image AI caricaturale prétendant montrer Taylor Swift le soutenant — ce qui, pour être clair, n’est pas le cas.

Sanderson a noté que l’utilisation de l’IA ne vise pas à modifier les opinions des gens, mais à “faire paraître leur candidat préféré patriote ou noble [ou] à dépeindre leur opposing candidat comme maléfique.” Il a remarqué que ces manipulations pouvaient être réalisées avec des outils traditionnels d’édition photo et vidéo, mais “l’IA générative rend cela beaucoup plus simple.”

Sanderson a également averti que l’IA avait pu être utilisée de manière moins détectable. “Je ne pense toujours pas que nous ayons une bonne compréhension rigoureuse de l’utilisation de l’IA générative à grande échelle, par qui et pour quelles raisons,” a-t-il ajouté.

De plus, il est difficile d’établir un lien direct entre les faux IA identifiés cette année et le vote des électeurs, selon Farid de l’UC Berkeley. “Je ne pense pas que cela ait changé l’issue de l’élection. Mais je pense que cela a eu un impact sur les pensées des gens. Et je crois que cela continuera à le faire,” a-t-il conclu.

Article original rédigé par : Diaa Hadid.