Quand un emoji évoque le salut hitlérien : une polémique inattendue

Le petit personnage semble inoffensif : la main levée, il semble saluer. Ou alors lève-t-il la main, comme à l’école ? Quelle que soit la signification qu’on lui attribue, cet emoji avec le bras droit en l’air reste neutre à première vue.

Cependant, parmi les groupes d’extrême droite, il revêt une signification particulière : celui-ci est utilisé comme un code pour le salut hitlérien. Ce détournement est courant dans certains milieux extrémistes où des emojis ou memes apparemment innocents servent de codes pour véhiculer des messages extrémistes, parfois illégaux.

Par exemple, lorsque les extrémistes postent deux éclairs, ils ne signalent pas un orage. Ils emploient ces symboles comme référence aux brigades SS du régime nazi. Un emoji de vampire devient un symbole pour la narrative antisémite des « Juifs suceurs de sang ». De même, les islamistes utilisent le symbole d’un drapeau noir pour évoquer l’organisation terroriste « État Islamique ».

Utiliser deux éclairs ou un vampire n’est pas illégal en soi. La majorité des utilisateurs n’a pas l’intention de diffuser des propagandes extrémistes. Interdire ces emojis ou les retirer des plateformes semble donc inapproprié.

Recherche d’un emoji avec le mot “Sieg”

La question est de savoir si on peut attendre des entreprises qui gèrent les réseaux sociaux qu’elles évitent de favoriser l’usage extrémiste de ces emojis reconnus dans certains cercles.

En effet, c’est ce qui se passe. Un test réalisé par la rédaction jeunesse de CORRECTIV, Salon 5, a révélé qu’en entrant le mot « Sieg » dans la barre de recherche d’emojis sur Instagram, cet emoji avec le bras levé apparaissait en première position parmi plusieurs suggestions.

Il est peu probable que cet emoji soit associé à un « Sieg » sans être lié à son utilisation comme salut hitlérien dans ce contexte.

Instagram, qui fait partie du groupe Meta (également propriétaire de Facebook et WhatsApp), analyse de manière approfondie les données de ses utilisateurs, ce qui constitue le fondement de son modèle économique. On peut donc supposer que Meta est bien conscient des comportements et des communications de ses utilisateurs.

Réponses peu claires de Meta

Meta sait-elle que les extrémistes utilisent cet emoji comme code ? L’entreprise est-elle au courant qu’il apparaît en tête des suggestions lorsqu’on recherche « Sieg » ? Prévoyait-elle de modifier cela ?

Les réponses de Meta passent par une agence de communication, qui ne transmet qu’une phrase : « Les emojis proposés sont basés sur leur utilisation fréquente avec des mots ou phrases spécifiques, offrant ainsi les suggestions les plus pertinentes aux utilisateurs. »

Cela peut être interprété ainsi : « Ce n’est pas notre faute, c’est la faute de l’algorithme. »

La question demeure : pourquoi ne pas ajuster cet algorithme ? En ont-ils même l’obligation ?

Prévention des contenus illégaux

Les responsabilités des exploitants de plateformes en ligne ne sont pas définies par la législation nationale, mais par le Digital Service Act adopté en 2022 par l’UE. Les plateformes ayant plus de 45 millions d’utilisateurs par mois doivent minimiser le risque que des contenus illégaux soient publiés.

Cependant, la seule utilisation de cet emoji ne constitue pas un acte illégal. Si utilisé dans un contexte d’extrême droite, cela pourrait constituer un recrutement vis-à-vis de l’usage de symboles de groupes interdit (article 86a du Code pénal).

Impact sur la sécurité publique

La question de la responsabilité pénale est donc complexe. Cependant, le Digital Service Act pourrait obliger Meta à réaliser des évaluations des risques, considérant l’impact de ses services sur le débat sociétal et la sécurité publique.

Peut-on interpréter ce acte pour signifier que Meta ne devrait pas recommander des emojis qui, en lien avec certains mots, pourraient encourager la diffusion de codes d’extrême droite ? Ce qui pourrait avoir un impact négatif sur le débat sociétal et la sécurité publique ?

Des lois floues

Max Dregelies, juriste en médias à l’Université de Trèves, souligne que le texte de loi n’est pas clair. Étant donné qu’il n’a été mis en œuvre qu’en 2022, aucune jurisprudence n’est encore disponible. « Si cela devait s’avérer que cet emoji est utilisé notamment en lien avec des contenus interdits, cela pourrait constituer un cas d’application. »

Les violations du Digital Service Act peuvent être signalées à l’Autorité fédérale des réseaux. Les signalements concernant les grands opérateurs sont ensuite transmis à la Commission européenne, qui décide des suites à donner.

Le ministère de l’Intérieur s’exprime

Le ministère de l’Intérieur allemand, dirigé par Alexander Dobrindt (CSU), se positionne sur la question. Bien qu’il ne soit pas chargé de contrôler les réseaux sociaux, il est responsable de la lutte contre l’extrémisme. Un porte-parole déclare : « La connexion de cet emoji avec le mot ‘Sieg’ est à rejeter, car elle peut être interprétée comme une minimisation du nazisme et de ses crimes. »

Le ministère est en contact avec Meta, mais aucun détail sur leurs discussions n’est partagé. Non seulement l’impact de ces emojis soulève de véritable questionnements, mais on ne sait pas non plus si Meta a déjà pris des mesures après cette demande de CORRECTIV. Lors d’un test effectué avant la publication de cet article, Instagram ne proposait plus l’emoji avec le bras levé en réponse à « Sieg », mais un emoji de coupe dorée.