Nouvelles politiques de contenu de Meta : un danger pour la paix et la justice

Article original rédigé par : Pat de Brún et Maung Sawyeddollah

Les récentes annonces de politiques de contenu de Meta représentent une menace sérieuse pour les communautés vulnérables à travers le monde et aggravent considérablement le risque que l’entreprise contribue à nouveau à des violences massives et à des violations graves des droits humains, à l’instar de ce qu’il s’est passé en Birmanie en 2017. La contribution significative de Meta aux atrocités subies par le peuple rohingya est désormais au cœur d’une nouvelle plainte de lanceur d’alerte déposée auprès de la Securities and Exchange Commission (SEC).

Lors d’une annonce faite le 7 janvier, le fondateur et PDG Mark Zuckerberg a présenté une série de changements aux politiques de contenu de Meta, ayant apparemment pour but de séduire la nouvelle administration Trump. Parmi ces changements figurent la levée des interdictions sur des discours auparavant prohibés, tels que la dénigration et le harcèlement des minorités racialisées. Zuckerberg a également annoncé un changement radical dans les pratiques de modération de contenu, avec un retrait significatif de la modération automatisée. Bien que ces changements aient été mis en œuvre aux États-Unis pour commencer, Meta a signalé qu’ils pourraient être étendus à l’échelle internationale. Ce revirement marque un recul évident par rapport aux engagements antérieurs de l’entreprise en matière de gouvernance responsable du contenu.

« Je pense vraiment que c’est un prélude à un génocide […] Nous avons déjà vu cela se produire. La vie de vraies personnes est réellement mise en danger. »
Un ancien employé de Meta s’adressant à Platformer

Comme l’a bien documenté Amnesty International et d’autres, les algorithmes de Meta favorisent et amplifient certains des contenus les plus nocifs, y compris l’incitation à la haine, la désinformation, et les contenus incitant à la violence raciale, le tout sous le prétexte de maximiser l’engagement des utilisateurs, et par extension, le profit. Des recherches ont montré que ces algorithmes privilégient systématiquement les contenus générant de fortes réactions émotionnelles, souvent au détriment des droits humains et de la sécurité. La suppression des garde-fous actuels semble indiquer une situation qui pourrait rapidement se détériorer.

Un ancien employé de Meta a récemment déclaré : « Je pense vraiment que c’est un prélude à un génocide […] Nous avons déjà vu cela se produire. La vie de vraies personnes est réellement mise en danger. » Ce constat rejoint les préoccupations exprimées par divers experts en droits humains qui mettent en garde contre le rôle de Meta dans l’alimentation de violences massives dans des sociétés fragiles et touchées par des conflits.

Nous avons déjà vu les conséquences horribles de l’imprudence de Meta. En 2017, les forces de sécurité birmanes ont mené une campagne brutale de nettoyage ethnique contre les musulmans rohingyas. Une Commission d’enquête indépendante de l’ONU a conclu en 2018 que la Birmanie avait commis un génocide. Au cours des années précédant ces attaques, Facebook était devenu une chambre d’écho de la haine virulente anti-rohingya. La diffusion massive de contenus déshumanisants à l’encontre des rohingyas a alimenté un feu de discrimination de longue date et a contribué à créer un environnement propice à la violence de masse. En l’absence de garde-fous appropriés, les algorithmes toxiques de Facebook ont intensifié une tempête de haine contre les rohingyas, ce qui a contribué à ces atrocités. Un rapport des Nations Unies a indiqué que Facebook avait joué un rôle clé dans la radicalisation des populations locales et l’incitation à la violence contre les rohingyas.

Au lieu de tirer des leçons de ses contributions irresponsables à des violences massives dans des pays comme la Birmanie et l’Éthiopie, Meta opte pour la suppression de protections essentielles destinées à prévenir la récurrence de tels préjudices.

En mettant en œuvre ces changements, Meta a effectivement déclaré une saison ouverte pour la haine et le harcèlement ciblant les populations les plus vulnérables, y compris les personnes trans, les migrants et les réfugiés.

Meta affirme qu’elle met en œuvre ces modifications pour promouvoir la liberté d’expression. Bien qu’il soit vrai que l’entreprise a à plusieurs reprises restreint de manière injustifiée des contenus légitimes, cet abandon radical des protections existantes n’est pas la solution. L’entreprise doit adopter une approche équilibrée qui permette la libre expression tout en protégeant les populations vulnérables.

Toutes les entreprises, y compris Meta, ont l’obligation claire de respecter tous les droits humains conformément aux normes internationales en matière de droits de l’homme. Les PDG milliardaires ne peuvent pas se permettre de choisir quels droits respecter tout en ignorant avec désinvolture d’autres droits et en mettant en danger ceux de millions de personnes.

« Au lieu de tirer des leçons de ses contributions irresponsables à des violences massives dans des pays comme la Birmanie et l’Éthiopie, Meta opte pour la suppression de protections essentielles destinées à prévenir la récurrence de tels préjudices. »
Pat de Brún, Responsable de la responsabilité des grandes entreprises technologiques chez Amnesty International

Une enquête menée par Amnesty International en 2021 a révélé que Meta avait « contribué de manière substantielle » aux atrocités perpétrées contre les rohingyas, et que l’entreprise avait la responsabilité de fournir un recours effectif à cette communauté. Cependant, Meta a clairement indiqué qu’elle ne prendra aucune mesure en ce sens.

Les communautés rohingyas – dont la plupart ont été forcées de fuir leur foyer il y a huit ans et résident toujours dans d’énormes camps de réfugiés au Bangladesh voisin – ont également demandé à Meta de financer un projet éducatif d’un million de dollars dans ces camps. Ce montant représente à peine 0,0007 % des bénéfices de Meta, qui s’élevaient à 134 milliards de dollars en 2023. Malgré cela, Meta a rejeté cette demande. Ce refus démontre encore une fois le manque de responsabilité de l’entreprise et son engagement envers le profit plutôt qu’envers la dignité humaine.

C’est pourquoi nous – survivant des atrocités rohingyas Maung Sawyeddollah, avec le soutien d’Amnesty International, de l’Open Society Justice Initiative et de Victim Advocates International – avons déposé le 23 janvier 2025 une plainte de lanceur d’alerte auprès de la SEC. Cette plainte souligne l’incapacité de Meta à prendre en compte les multiples avertissements de la société civile entre 2013 et 2017 concernant le rôle de Facebook dans l’alimentation de la violence contre les rohingyas. Nous demandons à l’agence d’enquêter sur Meta pour des violations présumées des lois sur les valeurs mobilières, résultant des fausses déclarations de l’entreprise à ses actionnaires concernant sa contribution aux atrocités rapportées par les rohingyas en 2017.

Entre 2015 et 2017, les dirigeants de Meta ont déclaré à leurs actionnaires que les algorithmes de Facebook n’entraînaient pas de polarisation, malgré les avertissements selon lesquels sa plateforme propageait activement des contenus anti-rohingyas en Birmanie. En même temps, Meta n’a pas divulgué pleinement aux actionnaires les risques liés à ses opérations en Birmanie. Au lieu de cela, en 2015 et 2016, Meta a opposé son refus à des propositions d’actionnaires visant à réaliser une évaluation de l’impact sur les droits humains et à établir un comité interne chargé de superviser les politiques de l’entreprise sur des enjeux de politique publique au niveau international, y compris les droits humains.

Alors que Zuckerberg et d’autres PDG du secteur technologique se rangent derrière les attaques généralisées sur les droits humains de la nouvelle administration (au sens propre, dans le cas de l’inauguration récente), les actionnaires de Meta doivent se mobiliser et tenir les dirigeants de l’entreprise responsables pour éviter que Meta ne redevienne un canal de violence massive, voire de génocide.

De même, les législateurs et responsables politiques aux États-Unis doivent s’assurer que la SEC maintienne sa neutralité, enquête correctement sur des plaintes légitimes – comme celle que nous venons de déposer – et veille à ce que ceux qui violent les droits humains soient traduits en justice.

À l’échelle mondiale, les gouvernements et les instances régionales comme l’UE doivent redoubler d’efforts pour tenir Meta et d’autres grandes entreprises technologiques responsables de leurs impacts sur les droits humains. Comme nous l’avons déjà constaté, d’innombrables vies humaines pourraient être en danger si des entreprises comme Meta se retrouvaient libres de toute contrainte.