Des images générées par l’IA sur l’Holocauste troubleraient les familles et les survivants, révèle une enquête

Une enquête a mis en lumière une tendance inquiétante : un réseau international de spammeurs publie sur Facebook des images générées par intelligence artificielle qui dépeignent faussement des victimes de l’Holocauste. Ce comportement suscite l’alarme au sein d’organisations engagées dans la préservation de la mémoire de l’Holocauste, qui craignent que de telles actions soient profondément troublantes pour les survivants et leurs familles. Les critiques se tournent particulièrement vers Meta, la société mère de Facebook, accusant la plateforme d’avoir, sans le vouloir, transformé une tragédie humaine monumentale en un « jeu » d’engagement émotionnel.

La véracité des images liées à l’Holocauste est précieuse ; il ne reste qu’un nombre restreint de photos authentiques provenant de lieux comme Auschwitz. Cependant, une nouvelle vague de contenus troublants a vu le jour, affichant des scènes comme un prisonnier jouant du violon ou des rencontres romantiques aux abords du camp. Ces publications ont accumulé des dizaines de milliers de « likes » et de partages, une réalité que déplore Pawel Sawicki, porte-parole du Mémorial d’Auschwitz en Pologne. “Ce n’est pas un jeu. Il s’agit de souffrances réelles et de personnes que nous souhaitons honorer,” a-t-il déclaré.

D’après les résultats de cette enquête, plusieurs de ces images peuvent être retracées à des comptes gérés par un groupe de créateurs de contenu basé au Pakistan, qui exploitent le programme de monétisation de contenu de Meta, récompensant financièrement les utilisateurs pour la création de contenu à fort engagement. Un compte en particulier, attribué à Abdul Mughees, aurait généré des revenus de 20 000 $ via différentes stratégies de monétisation. Sur ce compte, de nombreuses histoires et images générées par IA de victimes fictives de l’Holocauste ont été publiées, incluant des narrations troublantes d’enfants cachés ou de bébés laissés dans des situations périlleuses.

Une analyse de la BBC sur ces créateurs indique une concentration sur ce qui est appelé “AI slop”, des contenus de faible qualité générés en haute volée et partagés indifféremment en ligne. Des pages dédiées à Auschwitz, certaines publiant plus de 50 fois par jour, ont également été critiquées pour avoir déformé des faits historiques et fabriqué des récits sur les victimes. Le Musée d’Auschwitz a déjà averti que ces comptes traitent ses publications légitimes via l’IA, ce qui entraîne des inexactitudes historiques supplémentaires.

Pawel Sawicki a mentionné : “Nous avons remarqué une augmentation des commentaires soutenant une connaissance de ces images générées par IA sur nos publications, sapant notre mission d’éducation sur l’Holocauste.” Les familles des survivants de l’Holocauste sont tout aussi préoccupées, ressentant le poids d’un récit historique manipulé. Dr. Robert Williams de l’Alliance internationale pour la mémoire de l’Holocauste a exprimé son inquiétude face à la tristesse grandissante des survivants face à ces distorsions. “Ils ont l’impression que leurs efforts n’ont pas été suffisants,” a-t-il déploré, une inquiétude accentuée par la diminution du nombre de survivants.

La réponse de Meta indique qu’elle ne promeut pas délibérément des narrations fausses de ce type. Toutefois, les algorithmes de l’entreprise récompensent le contenu à fort engagement, ce qui a, par inadvertance, conduit à une prolifération de publications trompeuses. La BBC a identifié d’autres réseaux générant du contenu similaire dans des pays comme l’Inde, le Vietnam, la Thaïlande et le Nigeria. Un créateur de contenu pakistanais, Fazal Rahman, a expliqué que les publications sur l’histoire peuvent être lucratives, permettant de générer des revenus significatifs mensuels si elles visent un public de régions plus riches.

Les créateurs ont partagé des tutoriels sur l’utilisation des modèles d’IA pour fabriquer des images historiques et des textes, mettant ainsi à la disposition de tous la création de contenus trompeurs. Des techniques pour l’usurpation d’identité et la croissance de l’audience, en violation des règles de Meta, ont également circulé, compromettant l’intégrité des pages Facebook dédiées à l’histoire.

Bien que Meta ait commencé à supprimer certains comptes et groupes signalés, la problématique plus large persiste. Le risque que l’IA contribue à donner l’impression que l’histoire de l’Holocauste est fabriquée est une possibilité troublante mise en avant par Dr. Williams. Il a souligné la nécessité d’éviter “toute forme de manipulation extrême”, plaidant davantage pour une approche responsable de l’utilisation de la technologie dans la commémoration des événements historiques.

Alors que les discussions autour de ces pratiques se poursuivent, les défenseurs de l’éducation sur l’Holocauste restent vigilants pour défendre l’intégrité de la mémoire historique, appelant à des mesures strictes contre l’utilisation abusive des plateformes numériques pour déformer le passé.