Au cœur de College Park en Géorgie, une image de la maire Bianca Motley Broom embrassant un homme qui n’est pas son époux a fait le tour des réseaux sociaux. Bien que son origine truquée soit désormais de plus en plus claire, des milliers de personnes ont vu cette image avant que la vérité n’émerge.
“C’est un constat poignant sur l’état actuel de notre démocratie et sur le discours politique,” a déclaré Motley Broom. “Cela ne fait que renforcer des stéréotypes éculés sur les femmes en position de pouvoir.”
Cela fait six ans que Motley Broom a pris ses fonctions, et à l’époque, un adversaire politique aurait au moins eu besoin de compétences de base en retouche d’images pour créer une photo compromettante d’un politicien. Aujourd’hui, il suffit d’un ordinateur et d’une requête sur un générateur d’images par intelligence artificielle.
La menace posée par les deepfakes et la désinformation générée par l’IA suscite désormais de vives inquiétudes chez les législateurs, les militants et le grand public.
Un sondage réalisé en juin par Rad Campaign et Women Who Tech a révélé qu’environ 71 % des répondants redoutent que les deepfakes et la désinformation affectent les élections, tandis que deux tiers d’entre eux s’inquiètent de l’utilisation de l’IA pour sexualiser les femmes.
“Les résultats montrent que les Américains sont plus préoccupés par l’utilisation de l’IA dans les deepfakes et la désinformation électorale que par son impact sur l’économie ou l’emploi,” a déclaré Allyson Kapin, fondatrice de Rad Campaign et co-fondatrice de Women Who Tech.
Le gouvernement Trump a également exploité l’imagerie IA, comme en janvier dernier, lorsque le compte officiel de la Maison Blanche sur X a diffusé une image retouchée de Nekima Levy Armstrong, arrêtée lors d’une manifestation à St Paul, Minnesota. L’image a été manipulée pour la montrer en train de pleurer.
Des images trompeuses de Zohran Mamdani, le maire de New York, ont également commencé à circuler à partir d’un compte “parodique” sur X, le présentant faussement en compagnie de Jeffrey Epstein. Bien que Reuters ait démenti ces images, d’autres comptes avaient déjà commencé à les partager comme étant authentiques, alimentant ainsi des théories du complot.
Malgré un certain niveau d’inquiétude concernant les conséquences économiques de l’IA, l’inquiétude vis-à-vis des deepfakes utilisés pour sexualiser des femmes ou manipuler des élections est prédominante.
Raphael Warnock, sénateur démocrate de Géorgie, a indiqué dans une vidéo sur Facebook que des deepfakes circulaient le montrant fictivement en mauvaise santé avec des petits-enfants qu’il n’a pas. “Avec l’essor de ces outils, il devient de plus en plus difficile de distinguer le vrai du faux,” a-t-il averti, mettant en avant les implications de telles manipulations sur notre démocratie.
Warnock, aux côtés d’autres sénateurs démocrates, réfléchit à des réponses possibles face à cette question en constante évolution. Un sénateur républicain de Louisiane a récemment proposé une loi pour obliger les entreprises d’IA à installer un “kill switch” pour prévenir les abus, mais cette initiative a été bloquée.
Hakeem Jeffries, leader des démocrates à la Chambre, a plaidé pour une action urgente des gouvernements sur la régulation de l’IA, afin de protéger le public de comportements malveillants.
Alors que certains États commencent à prendre des mesures législatives – comme le Tennessee avec sa loi sur la sécurité des images numériques -, la Géorgie reste à la traîne en matière de protection contre les deepfakes. Malgré la sensibilisation croissante autour du sujet, aucune loi n’a encore été adoptée.
Motley Broom a mentionné qu’elle estime avoir été ciblée par des opposants politiques en raison de son rôle antérieur à la présidence de l’Association municipale de Géorgie. “Je suis déterminée à défendre ma ville et je ne me laisserai pas intimider par ces attaques,” a-t-elle affirmé.
Alors que des actions en justice pourraient être envisagées, elle reste consciente des défis posés par la liberté d’expression. “Ces attaques doivent avoir des conséquences,” a insisté Motley Broom, appelant les législateurs à trouver un équilibre à la fois entre les droits d’expression et ceux des individus contre les accusations fallacieuses.
Points à retenir
- Les deepfakes représentent une menace croissante pour la démocratie, pouvant influencer la perception publique des élus.
- Une majorité de citoyens exprime des inquiétudes concernant les implications des technologies IA sur l’intégrité des élections.
- Il existe un consensus sur le besoin urgent d’une régulation des IA pour protéger les droits des individus.
- Des exemples récents montrent comment les images et vidéos manipulées peuvent alimenter la désinformation.
- Les législateurs doivent naviguer prudemment entre la protection de la liberté d’expression et la lutte contre la désinformation.
À titre personnel, je suis frappé par l’émergence de ces technologies et l’impact qu’elles peuvent avoir. Cela soulève des questions cruciales sur notre capacité à discerner le vrai du faux. Dans un monde où les images peuvent être altérées en un instant, comment pouvons-nous renforcer notre esprit critique et notre vigilance face à l’information que nous consommons ? C’est une réflexion essentielle pour l’avenir de notre démocratie.