Dans certains recoins d’Internet, une écolière britannique générée par intelligence artificielle a émergé en tant que phénomène culturel. Son nom est Amelia, une « goth girl » aux cheveux violets, qui arbore fièrement un mini drapeau britannique. Elle semble également avoir un penchant pour les discours racistes.
Si vous n’êtes pas familier avec Amelia, il est fort probable que vous tombiez bientôt sur un mème viral inspiré d’elle sur Facebook ou X, où sa réputation ne cesse de croître.
Les vidéos d’Amelia la montrent généralement déambulant à Londres ou dans la Chambre des communes, exprimant son amour pour l’Angleterre tout en mettant en garde contre les dangers des « musulmans militants » ou des « migrants des pays en développement ». Dans un clip, elle est confrontée par un homme barbu en tenue islamique qui la gronde pour avoir mangé une saucisse de porc.
Le message qu’elle véhicule est bien rodé sur les réseaux sociaux d’extrême droite, mais c’est l’invention de cette personnage par l’IA qui l’a rendue incroyablement adaptable, créant une tendance virale à laquelle tout le monde avec un accès à un chatbot peut participer. Les utilisateurs de X ont utilisé l’outil Grok AI pour créer tant de mèmes sur Amelia qu’elle sort désormais des cercles en ligne spécialisés.
Les origines du personnage sont ironiques, pour le dire gentiment. Une première version d’Amelia a vu le jour dans un jeu vidéo de contre-extrémisme financé par le ministère de l’Intérieur britannique, conçu pour détourner les jeunes de 13 à 18 ans de l’extrémisme d’extrême droite dans le Yorkshire.
Ce jeu, intitulé « Pathways: Navigating the Internet and Extremism », présente des choix sous forme de quizz animés. Les joueurs suivent des personnages dans un collège et doivent prendre des décisions sur des scénarios, comme envisager de télécharger des contenus potentiellement extrémistes ou rejoindre un personnage d’Amelia lors d’un rassemblement organisé par « un petit groupe politique » protestant contre les changements dans la société.
Certaines décisions conduisent à une référence dans le cadre du programme britannique de prévention du terrorisme.
Cependant, c’est une subversion du personnage d’Amelia qui a pris d’assaut les réseaux sociaux, étonnant même les créateurs du jeu original.
Les différentes itérations générées par IA incluent une Amelia de style Manga, une version empruntée à Wallace et Gromit, ainsi que des rencontres « réelles » imaginaires entre elle et des personnages comme Father Ted ou Harry Potter, souvent accompagnées de discours racistes et de messages d’extrême droite.
Une analyse fournie par Logically, une entreprise britannique spécialisée dans la surveillance de la désinformation, a indiqué qu’un compte anonyme, connu pour diffuser habilement des messages d’extrême droite, a commencé à populariser le mème Amelia sur X le 9 janvier, avec un post qui a été vu 1,4 million de fois.
Le volume de publications autour d’Amelia est passé d’une moyenne de 500 par jour à environ 10 000 depuis le 15 janvier, en touchant un public international. Mercredi, il a atteint 11 137 posts sur X uniquement.
Dans un retournement surréaliste, une cryptomonnaie Amelia a émergé, des utilisateurs de réseaux sociaux cherchant à tirer parti de la valeur de ce mème en plein essor. Mercredi, Elon Musk a même retweeté un compte promouvant un token de cryptomonnaie Amelia.
« Nous assistons à la monétisation de la haine », a déclaré Matteo Bergamini, fondateur et PDG de Shout Out UK, l’entreprise à l’origine du jeu.
« Nous avons vu des groupes Telegram échanger sur le mème et discuter de la manière d’artificiellement gonfler sa valeur, ce qui génère beaucoup d’argent », a-t-il ajouté.
L’entreprise a elle-même été la cible d’un torrent de courriers haineux, y compris des menaces de mort, qui ont été signalées à la police.
Bergamini souligne que l’initiative originale n’était pas conçue comme un jeu autonome, mais plutôt comme un outil pédagogique à utiliser en classe avec des ressources d’apprentissage complémentaires, une réalité souvent ignorée dans les commentaires sur le sujet.
« Il y a eu beaucoup de malentendus, malheureusement, » a-t-il indiqué. « Le jeu ne dit pas que questionner l’immigration massive est intrinsèquement mauvais. »
D’autres ont suggéré que l’initiative a échoué, notamment en présentant une « mignonne goth girl » comme un personnage négatif, ce qui a conduit à une admiration involontaire d’elle. Mais Bergamini précise que le jeu, qui a utilisé des retours de groupes de discussion avec des jeunes avant sa production, continue d’être utilisé et que les retours des écoles et autres sont positifs.
Cependant, la rapidité et la sophistication entourant la création de mèmes soi-disant subversifs autour d’Amelia ont pris Bergamini par surprise.
« Cela nous pousse à réfléchir à la sécurité, tout en soulignant les véritables risques inhérents à cette technologie émergente en matière de démocratie, de désinformation et dans d’autres domaines », a-t-il déclaré.
Siddharth Venkataramakrishnan, analyste à l’Institute for Strategic Dialogue (ISD), a noté : « Nous avons vu le mème se répandre remarquablement et proliférer parmi l’extrême droite et au-delà, mais ce qui est aussi notable, c’est la dimension internationale qu’il prend. »
« D’une certaine manière, cela touche au cœur de ce que l’on pourrait appeler l’extrême droite ‘dissidente’ – des individus qui se positionnent en dehors de la scène politique traditionnelle – qu’il s’agisse de ‘shitposters’ qui cherchent simplement à provoquer, ou d’autres qui adoptent des mèmes ‘twee’. Un écosystème entier l’a embrassé. Clairement, l’imagerie sexualisée joue également un rôle clé dans ce phénomène. Le public cible est presque exclusivement constitué de jeunes hommes. »
Points à retenir
- Amelia, un personnage généré par IA, a vu sa popularité croître sur les réseaux sociaux, notamment sur X.
- Son origine provient d’un jeu créé par le gouvernement britannique pour contrebalancer l’extrémisme d’extrême droite.
- Les mèmes sur Amelia se sont multipliés, transformant l’image de cette « goth girl » en icône controversée.
- Une cryptomonnaie associée à Amelia a également émergé, illustrant la diversité des usages liés à son image.
- Les créateurs du jeu original sont confrontés à des défis inattendus, notamment des menaces et des malentendus sur leur intention.
À titre personnel, cette affaire soulève des interrogations passionnantes sur la manière dont la culture numérique peut déformer des initiatives initialement bien intentionnées. Cela nous amène à réfléchir : dans quelle mesure notre engagement en ligne peut-il être manipulé pour intégrer des messages d’extrême droite sous couvert de divertissement ? Quelles stratégies pouvons-nous mettre en place pour repenser et redéfinir ces narrations, afin de promouvoir une meilleure compréhension et inclusion dans notre société globalisée ?