L’intelligence artificielle a-t-elle façonné l’élection présidentielle 2024 ?

Quelques jours après qu’un robocall ayant utilisé une voix artificielle ressemblant à celle du président Joe Biden ait été diffusé auprès des électeurs du New Hampshire, la Commission fédérale des communications (FCC) a décidé d’interdire l’utilisation de voix générées par l’IA dans ces appels automatisés.

Cela a été un moment clé. Les élections américaines de 2024 seraient les premières à se dérouler avec un large accès du public aux générateurs d’IA, permettant de créer des images, des audio et des vidéos, parfois à des fins malveillantes.

Les institutions se sont précipitées pour mettre en place des mesures limitant les abus liés à l’IA.

Seize États ont adopté des lois concernant l’utilisation de l’IA dans les élections et les campagnes; nombre d’entre eux ont exigé des avertissements accompagnant les médias synthétiques publiés à l’approche d’un scrutin. La Commission d’assistance électorale, une agence fédérale soutenant les administrateurs électoraux, a publié un “kit d’outils sur l’IA” fournissant des conseils aux responsables électoraux pour communiquer dans un contexte d’informations falsifiées. Des États ont également mis en ligne des pages pour aider les électeurs à identifier le contenu généré par l’IA.

Les experts ont exprimé leurs inquiétudes concernant la capacité de l’IA à créer des deepfakes, falsifiant les déclarations ou actions des candidats. Ils ont souligné que l’impact de l’IA pourrait porter préjudice aux États-Unis tant sur le plan national en trompant les électeurs et influençant leur prise de décision, que sur le plan international en favorisant des adversaires étrangers.

Cependant, l’avalanche de désinformation alimentée par l’IA attendue n’a finalement pas eu lieu. Le jour des élections, la désinformation virale a joué un rôle majeur, égarant les gens sur le comptage des votes, les bulletins de vote par correspondance et les machines de vote. Toutefois, ces tromperies reposaient principalement sur des techniques anciennes et familières, telles que des affirmations sur les réseaux sociaux et des vidéos ou des images sorties de leur contexte.

“L’utilisation de l’IA générative ne s’est finalement pas révélée nécessaire pour induire les électeurs en erreur,” a déclaré Paul Barrett, directeur adjoint du Stern Center for Business and Human Rights de l’Université de New York. “Ce n’était pas ‘l’élection de l’IA’.”

Selon Daniel Schiff, professeur adjoint de politique technologique à l’Université Purdue, il n’y a pas eu de “campagne massive de dernière minute” trompant les électeurs sur les bureaux de vote et influençant le taux de participation. “Ce type de désinformation était de taille plus modeste et peu susceptible d’avoir été un facteur déterminant, du moins lors de l’élection présidentielle,” a-t-il affirmé.

Les affirmations générées par l’IA qui ont suscité le plus d’intérêt soutenaient des narrations existantes plutôt que de créer de nouvelles fausses informations. Par exemple, après que l’ancien président Donald Trump et son colistier, JD Vance, aient faussement prétendu que des Haïtiens mangeaient des animaux de compagnie à Springfield, Ohio, des images et des mèmes d’abus d’animaux ont inondé Internet.

Parallèlement, des experts en technologie et politique publique ont noté que des mesures de protection et des législations avaient minimisé le potentiel de l’IA à créer des discours politiques nuisibles.

Schiff a déclaré que les risques d’impact de l’IA sur les élections avaient suscité “une énergie urgente” axée sur la recherche de solutions.

“Je crois que l’attention significative portée par les avocats du public, les acteurs gouvernementaux, les chercheurs et le grand public a eu son importance,” a ajouté Schiff.

Meta, la société mère de Facebook, Instagram et Threads, a exigé des annonceurs qu’ils révèlent l’utilisation de l’IA dans toute publicité portant sur des questions politiques ou sociales. TikTok a mis en place un mécanisme pour étiqueter automatiquement certains contenus générés par l’IA. OpenAI, le développeur de ChatGPT et DALL-E, a interdit l’utilisation de ses services pour des campagnes politiques et a empêché les utilisateurs de générer des images de personnes réelles.

Les acteurs de la désinformation ont utilisé des techniques traditionnelles

Siwei Lyu, professeur d’informatique et d’ingénierie à l’Université de Buffalo, et expert en forensique des médias numériques, a fait remarquer que le pouvoir d’influence de l’IA lors de l’élection a également diminué car d’autres moyens d’influence existaient.

“Lors de cette élection, l’impact de l’IA pouvait sembler atténué parce que les formats traditionnels demeuraient plus efficaces, et sur les plateformes sociales comme Instagram, les comptes ayant de nombreux abonnés utilisaient moins l’IA,” a précisé Herbert Chang, professeur adjoint de sciences sociales quantitatives au Dartmouth College. Chang a coécrit une étude signalant que les images générées par l’IA “génèrent moins de viralité que les mèmes traditionnels,” mais que les mèmes créés avec l’IA génèrent également de la viralité.

Des personnalités influentes disposant de grands suivis diffusent facilement des messages sans avoir besoin de médias générés par l’IA. Trump, par exemple, a à plusieurs reprises et faussement déclaré lors de discours, d’interviews et sur les réseaux sociaux que des immigrants en situation irrégulière étaient amenés aux États-Unis pour voter, bien que les cas de vote de non-citoyens soient extrêmement rares et que la citoyenneté soit requise pour voter aux élections fédérales. Les sondages ont montré que cette affirmation répétée de Trump avait un impact: plus de la moitié des Américains ont déclaré en octobre être préoccupés par le vote de non-citoyens lors des élections de 2024.

Les vérifications et articles de PolitiFact sur la désinformation liée aux élections ont mis en évidence certaines images et vidéos utilisant l’IA, mais de nombreux contenus viralisés étaient des “cheap fakes”, c’est-à-dire du contenu authentique trompeusement édité sans recours à l’IA.

Dans d’autres cas, des politiciens ont retourné la situation, blâmant ou dénigrant plutôt l’IA au lieu de l’utiliser. Trump, par exemple, a faussement affirmé qu’une compilation de ses gaffes publiée par le Lincoln Project était générée par l’IA, et il a également soutenu qu’un groupe de soutiens à Harris était généré par l’IA. Après qu’un rapport de CNN ait révélé que le lieutenant-gouverneur de Caroline du Nord, Mark Robinson, avait tenu des propos offensants sur un forum pornographique, Robinson a affirmé qu’il s’agissait d’une manipulation de l’IA. Un expert a déclaré à WFMY-TV de Greensboro, Caroline du Nord, que ce que Robinson avait prétendu serait “quasiment impossible”.

L’IA utilisée pour attiser l’‘animosité partisane’

Les autorités ont découvert qu’un magicien de rue de La Nouvelle-Orléans avait créé le faux robocall de Biden en janvier, où le président semblait décourager les électeurs de participer aux primaires du New Hampshire. Le magicien a déclaré avoir mis seulement 20 minutes et 1 $ pour réaliser le faux audio.

Le consultant politique qui a engagé le magicien pour émettre cet appel fait face à une amende de 6 millions de dollars et 13 accusations criminelles.

Cela a été un moment marquant principalement parce qu’il n’a pas été répété.

L’IA n’a pas été à l’origine de la propagation de deux grands récits de désinformation dans les semaines précédant le jour des élections – les fausses accusations de cannibalisme animal et les mensonges sur les efforts d’assistance de la FEMA après les ouragans Milton et Hélène, a déclaré Bruce Schneier, enseignant associé en politique publique à la Harvard Kennedy School.

“Nous avons assisté à des utilisations de deepfakes qui, de manière assez efficace, ont contribué à attiser l’animosité partisane, aidant à établir ou consolider certaines interprétations trompeuses ou fausses sur les candidats,” a déclaré Daniel Schiff. Celui-ci a collaboré avec Kaylyn Schiff, professeure adjointe de science politique à Purdue, et Christina Walker, candidate au doctorat à Purdue, pour créer une base de données sur les deepfakes politiques.

La majorité des incidents de deepfake résultaient de tentatives de satire, ont montré les données. D’autres sont apparus dans l’optique de nuire à la réputation de quelqu’un. Et le troisième type de deepfake le plus courant était créé à des fins de divertissement.

Les deepfakes qui critiquaient ou trompaient le public à propos des candidats constituaient “des extensions de récits politiques traditionnels américains”, selon Daniel Schiff, comme ceux qui dépeignaient Harris comme une communiste ou un clown, ou Trump comme un fasciste ou un criminel. Chang a rejoint Schiff en affirmant que l’IA générative “exacerbait les divisions politiques existantes, pas nécessairement dans le but de tromper, mais par hyperbole”.

Les grandes opérations d’influence étrangères s’appuyaient sur des acteurs et non sur l’IA

Des chercheurs ont averti en 2023 que l’IA pourrait aider des adversaires étrangers à mener des opérations d’influence plus rapidement et à moindres frais. Le Foreign Malign Influence Center – qui évalue les activités d’influence étrangères ciblant les États-Unis – a déclaré fin septembre que l’IA n’avait pas “révolutionné” ces efforts.

Pour menacer les élections américaines, le centre a indiqué que des acteurs étrangers devraient surmonter les restrictions des outils d’IA, éviter d’être détectés et “cibler stratégiquement et diffuser ce type de contenu”.

Les agences de renseignement – y compris le Bureau du directeur du renseignement national, le FBI et la Cybersecurity and Infrastructure Security Agency – ont signalé des opérations d’influence étrangères, mais ces efforts employaient plus souvent des acteurs dans des vidéos mises en scène. Une vidéo montrait une femme prétendant que Harris l’avait frappée lors d’un accident de voiture. Le récit de cette vidéo était “entièrement fabriqué”, mais il n’impliquait pas d’IA. Les analystes ont établi un lien entre cette vidéo et un réseau russe qu’ils ont baptisé Storm-1516, qui avait utilisé des tactiques similaires dans des vidéos visant à saper la confiance électorale en Pennsylvanie et en Géorgie.

Les mesures de protection des plateformes et les législations étatiques ont probablement aidé à limiter les ‘pire comportements’

Les plateformes de médias sociaux et d’IA ont cherché à rendre plus difficile l’utilisation de leurs outils pour diffuser des contenus politiques nuisibles, en ajoutant des filigranes, des étiquettes et des vérifications aux affirmations.

Meta AI et OpenAI ont déclaré que leurs outils avaient rejeté des centaines de milliers de demandes de génération d’images d’IA représentant Trump, Biden, Harris, Vance et le candidat démocrate à la vice-présidence, le gouverneur du Minnesota, Tim Walz. Dans un rapport du 3 décembre sur les élections mondiales de 2024, Nick Clegg, président des affaires mondiales chez Meta, a déclaré : “Les évaluations sur le contenu généré par l’IA lié aux élections, à la politique et à des sujets sociaux représentaient moins de 1 % du total des désinformations vérifiées.”

Cependant, des lacunes demeurent.

Le Washington Post a découvert qu’en cas de demande, ChatGPT était toujours capable de formuler des messages de campagne ciblant des électeurs spécifiques. PolitiFact a également constaté que Meta AI produisait facilement des images pouvant soutenir la narration selon laquelle des Haïtiens mangeaient des animaux de compagnie.

Daniel Schiff a mentionné que les plateformes avaient encore un long chemin à parcourir, car la technologie de l’IA continuait d’évoluer. Mais au moins pour 2024, il semblait que les précautions prises et les efforts législatifs des États avaient porté leurs fruits.

“Des stratégies comme la détection des deepfakes, les efforts de sensibilisation du public, ainsi que des interdictions claires, ont toutes joué un rôle,” a conclu Schiff.