L’élection de 2024 : Pourquoi l’IA n’a pas pris le dessus !

Quelques jours après qu’un appel automatisé utilisant une voix générée par intelligence artificielle, ressemblant à celle du président Joe Biden, ait été reçu par des électeurs du New Hampshire, la Commission fédérale des communications (FCC) a interdit l’utilisation de voix générées par IA dans les appels robocalls.

Cela a constitué un point de départ. L’élection de 2024 sera la première à se dérouler dans un contexte où l’accès aux générateurs d’IA est largement répandu, permettant aux utilisateurs de créer des images, de l’audio et des vidéos, parfois à des fins malveillantes.

Face à cela, diverses institutions se sont précipitées pour limiter les abus liés à l’intelligence artificielle.

Seize États ont adopté des lois concernant l’utilisation de l’IA dans les élections et campagnes ; plusieurs d’entre eux ont réclamé des avertissements pour les médias synthétiques publiés à l’approche d’une élection. La Commission de l’aide aux élections, une agence fédérale soutenant les administrateurs électoraux, a mis en ligne un « kit d’outils sur l’IA » fournissant des conseils aux responsables électoraux pour communiquer sur les élections à une époque où l’information fabriquée est courante. Des États ont également créé leurs propres pages pour aider les électeurs à identifier le contenu généré par IA.

Des experts mettent en garde contre le potentiel de l’IA à créer des deepfakes, donnant l’impression que des candidats disent ou font des choses qu’ils n’ont pas réellement dites ou faites. En outre, ces experts affirment que l’influence de l’IA pourrait nuire aux États-Unis, en induisant les électeurs en erreur, en affectant leur prise de décision ou en les dissuadant de voter, mais également à l’échelle internationale, en profitant à des adversaires étrangers.

Cependant, l’avalanche de désinformation alimentée par l’IA tant attendue ne s’est tout simplement pas produite. À l’approche du jour des élections, des informations trompeuses ont fait surface, portant principalement sur le dépouillement des votes, les bulletins de vote par correspondance et les machines à voter. Néanmoins, ces manigances s’appuyaient surtout sur des techniques classiques, telles que des affirmations sur les réseaux sociaux ou des images vidéo qui sortent de leur contexte.

« L’usage de l’IA générative ne s’est pas avéré nécessaire pour induire les électeurs en erreur », explique Paul Barrett, directeur adjoint du Stern Center for Business and Human Rights de l’Université de New York. « Ce ne fut pas ‘l’élection de l’IA.’ »

Daniel Schiff, professeur adjoint de politique technologique à l’Université Purdue, a déclaré à PolitiFact qu’il n’y avait pas eu de « campagne massive de dernière minute » qui aurait induit les électeurs en erreur concernant les lieux de vote et influencé la participation. « Ce type de désinformation était de moindre envergure et peu susceptible d’avoir été un facteur déterminant lors de l’élection présidentielle », a-t-il précisé.

Les affirmations générées par l’IA qui ont le mieux fonctionné ont appuyé des récits existants plutôt que de créer de nouvelles allégations destinées à tromper, selon les experts. Par exemple, après que l’ancien président Donald Trump et son colistier, JD Vance, aient affirmé à tort que des Haïtiens mangeaient des animaux de compagnie à Springfield, dans l’Ohio, des images et des mèmes générés par IA montrant des abus d’animaux ont inondé l’internet.

(Captures d’écran/Truth Social)

Parallèlement, des experts en technologie et en politique publique ont souligné que des mesures de sécurité et des lois avaient limité le potentiel de l’IA à créer des discours politiques nuisibles.

Schiff a affirmé que les risques d’atteintes liées aux élections dus à l’IA avaient suscité une « énergie urgente » dédiée à la recherche de solutions.

« Je suis convaincu que l’attention significative portée par les défenseurs publics, les acteurs gouvernementaux, les chercheurs, et le grand public a eu un impact », a-t-il déclaré.

Meta, la société mère de Facebook, Instagram et Threads, a exigé que les annonceurs révèlent l’utilisation de l’IA dans les publicités sur des enjeux politiques ou sociaux. TikTok a mis en place un mécanisme pour labelliser automatiquement certains contenus générés par IA. OpenAI, le créateur de ChatGPT et DALL-E, a interdit l’utilisation de ses services pour des campagnes politiques et a empêché les utilisateurs de générer des images de personnes réelles.

Siwei Lyu, professeur d’informatique et d’ingénierie à l’Université de Buffalo et expert en vérification des médias numériques, a déclaré que le pouvoir de l’IA à influencer les élections avait également diminué car d’autres moyens restaient plus efficaces.

« Pour cette élection, l’impact de l’IA peut sembler atténué parce que les formats traditionnels s’avèrent encore plus efficaces, et sur des plateformes basées sur les réseaux sociaux comme Instagram, les comptes ayant de nombreux abonnés recourent moins à l’IA », a constaté Herbert Chang, professeur adjoint en sciences sociales quantitatives au Dartmouth College. Chang a coécrit une étude révélant que les images générées par IA « génèrent moins de viralité que les mèmes traditionnels », mais celles créées avec de l’IA peuvent également être virales.

Des personnalités influentes diffusent facilement leurs messages sans nécessiter de médias générés par IA. Par exemple, Trump a assuré à plusieurs reprises, dans ses discours, ses interviews médiatiques et sur les réseaux sociaux, que des immigrants en situation irrégulière étaient amenés aux États-Unis pour voter, malgré la rareté des cas de vote de non-citoyens et le fait que la citoyenneté soit exigée pour voter lors des élections fédérales. Nous avons qualifié cette affirmation de totalement fausse, mais les sondages ont montré que cette déclaration répétée par Trump a porté ses fruits : plus de la moitié des Américains en octobre avaient des inquiétudes concernant le vote de non-citoyens lors de l’élection de 2024.

Les vérifications des faits et les reportages de PolitiFact sur la désinformation liée aux élections ont mis en lumière certaines images et vidéos utilisant l’IA, mais de nombreux contenus viraux étaient ce que les experts qualifient de « cheap fakes » — du contenu authentique efficacement édité sans IA.

Dans d’autres cas, des politiciens ont inversé la tendance — blâmant ou dénigrant l’IA au lieu de l’utiliser. Trump, par exemple, a déclaré à tort qu’un montage de ses erreurs réalisé par le Lincoln Project était généré par IA, et il a dit qu’une foule de partisans de Harris était générée par IA. Après qu’un rapport de CNN ait révélé que le lieutenant-gouverneur de Caroline du Nord, Mark Robinson, avait tenu des propos offensants sur un forum pornographique, Robinson a prétendu qu’il s’agissait d’une manipulation de l’IA. Un expert a déclaré à la télévision WFMY de Greensboro, dans l’État de Caroline du Nord, que ce que Robinson avait avancé serait « presque impossible ».

Les autorités ont découvert qu’un magicien de rue de La Nouvelle-Orléans avait créé en janvier un faux appel robocall au nom de Biden. Le magicien a déclaré avoir mis seulement 20 minutes et 1 dollar pour réaliser cet audio.

Le consultant politique qui a engagé le magicien pour réaliser l’appel risque une amende de 6 millions de dollars et 13 chefs d’accusation criminels.

C’était un moment marquant principalement parce qu’il n’a pas été réitéré.

L’IA n’a pas été à l’origine de la diffusion de deux récits majeurs de désinformation dans les semaines précédant le jour des élections — les affirmations fabriquées sur le fait que des animaux de compagnie étaient mangés et les mensonges concernant les efforts de secours de l’Agence fédérale de gestion des urgences après les ouragans Milton et Helene, a déclaré Bruce Schneier, professeur adjoint en politique publique à la Harvard Kennedy School.

« Nous avons observé l’utilisation de deepfakes qui ont semblé stimuler assez efficacement l’animosité partisane, aidant à établir ou à cimenter certains points de vue trompeurs ou faux sur les candidats », a ajouté Schiff.

Il a collaboré avec Kaylyn Schiff, professeure adjointe de sciences politiques à Purdue, et Christina Walker, candidate au doctorat à Purdue, pour créer une base de données de deepfakes politiques.

La majorité des incidents de deepfakes étaient créés sous forme de satire, selon les données. Suivaient ceux ayant pour but de nuire à la réputation de quelqu’un. Le troisième type le plus courant de deepfake était réalisé à des fins de divertissement.

Les deepfakes critiquant ou induisant en erreur au sujet des candidats étaient des « extensions des récits politiques traditionnels américains », a déclaré Daniel Schiff, citant par exemple celles dépeignant Harris comme une communiste ou une clown, ou Trump comme un fasciste ou un criminel. Chang a convenu avec Daniel Schiff, soulignant que l’IA générative « exacerbait les divisions politiques existantes, pas nécessairement avec l’intention d’induire en erreur, mais par l’exagération ».

Des chercheurs ont averti en 2023 que l’IA pourrait aider des adversaires étrangers à mener des opérations d’influence plus rapidement et à moindre coût. Le Foreign Malign Influence Center — qui évalue les activités d’influence étrangères ciblant les États-Unis — a déclaré fin septembre que l’IA n’avait pas « révolutionné » ces efforts.

Pour menacer les élections américaines, le centre a affirmé que les acteurs étrangers devraient surmonter les restrictions des outils d’IA, échapper à la détection et « cibler stratégiquement et diffuser un tel contenu ».

Les agences de renseignement — y compris le Bureau du directeur du renseignement national, le FBI et l’Agence de la cybersécurité et de la sécurité des infrastructures — ont signalé des opérations d’influence étrangères, mais celles-ci avaient plus souvent recours à des acteurs dans des vidéos mises en scène. Une vidéo a montré une femme prétendant que Harris l’avait frappée et blessée lors d’un accident de voiture. Le récit de la vidéo était « entièrement fabriqué, mais pas par IA ». Les analystes ont relié cette vidéo à un réseau russe qu’ils ont désigné Storm-1516, lequel avait utilisé des tactiques similaires dans des vidéos visant à saper la confiance électorale en Pennsylvanie et en Géorgie.

Les plateformes de médias sociaux et d’IA ont cherché à rendre plus difficile l’utilisation de leurs outils pour diffuser des contenus politiques nuisibles, en ajoutant des filigranes, des étiquettes et des vérifications aux informations.

A la fois Meta AI et OpenAI ont déclaré que leurs outils avaient rejeté des centaines de milliers de demandes de génération d’images d’individus tels que Trump, Biden, Harris, Vance et le candidat démocrate à la vice-présidence, le gouverneur du Minnesota, Tim Walz. Dans un rapport du 3 décembre sur les élections mondiales de 2024, le président de Meta pour les affaires mondiales, Nick Clegg, a indiqué que les contenus liés aux élections, à la politique et aux questions sociales ne représentaient pas plus d’1% de la désinformation vérifiée.

Cependant, des lacunes demeurent.

Le Washington Post a découvert que, lorsqu’il était sollicité, ChatGPT composait encore des messages électoraux ciblant des électeurs spécifiques. PolitiFact a également révélé que Meta AI produisait facilement des images pouvant soutenir le récit selon lequel les Haïtiens mangent des animaux de compagnie.

Daniel Schiff a averti que les plateformes ont un long chemin à parcourir alors que la technologie de l’IA s’améliore. Mais au moins en 2024, les précautions prises et les efforts législatifs des États semblent avoir porté leurs fruits.

« Des stratégies comme la détection des deepfakes, des initiatives de sensibilisation du public, ainsi que des interdictions pures et simples, ont toutes eu de l’importance », a conclu Schiff.