Meta accorde désormais à ses utilisateurs une plus grande liberté de publier une vaste gamme de remarques désobligeantes concernant les races, les nationalités, les groupes ethniques, les orientations sexuelles et les identités de genre, selon des documents de formation obtenus par The Intercept.
Les exemples de discours récemment autorisés sur Facebook et Instagram, présentés dans ces documents, comprennent :
« Les immigrants sont des saletés crasseuses. »
« Les homosexuels sont des freaks. »
« Regardez cette transe (sous une photo d’une jeune fille de 17 ans). »
Ces modifications font partie d’un changement de politique plus large, incluant la suspension du programme de fact-checking de l’entreprise. Meta a déclaré mardi que le but est de « permettre plus de discours en levant les restrictions ».
Joel Kaplan, le nouveau responsable des politiques mondiales chez Meta, a décrit cet effort comme un moyen de corriger « des systèmes complexes pour gérer le contenu sur nos plateformes, qui sont de plus en plus compliqués à appliquer ».
Bien que Kaplan et le PDG de Meta, Mark Zuckerberg, présentent ces changements comme une manière de permettre aux utilisateurs de s’engager plus librement dans des dissentions idéologiques et des débats politiques, les documents de politique, jusqu’alors non rapportés, examinés par The Intercept, illustrent l’ampleur avec laquelle des propos purement insultants et déshumanisants sont désormais acceptés.
Le document fournit aux intervenants sur le contenu des utilisateurs de Meta un aperçu des changements de la politique sur les discours de haine, leur expliquant comment appliquer les nouvelles règles. Les changements les plus significatifs sont accompagnés d’une sélection d’exemples « pertinents » – des publications hypothétiques marquées soit « Autorisé » soit « À supprimer ».
En réponse à des questions concernant ces nouvelles politiques, Corey Chambliss, porte-parole de Meta, a orienté The Intercept vers des commentaires sur le blog de Kaplan annonçant le changement : « Nous abolissons un certain nombre de restrictions sur des sujets tels que l’immigration, l’identité de genre et le sexe, souvent au cœur de débats politiques. Ce n’est pas juste que des choses puissent être dites à la télévision ou au Congrès, mais pas sur nos plateformes. »
Kate Klonick, experte en politiques de modération de contenu et qui a parlé à The Intercept, conteste la présentation par Meta des nouvelles règles, qui sont moins politisées, considérant l’ampleur qu’elles offrent pour attaquer des figures conservatrices.
« Définir des limites autour de la modération du contenu a toujours été une entreprise politique, » a déclaré Klonick, professeure associée de droit à l’Université St. John’s et chercheuse en politique de modération de contenu. « Faire semblant que ces nouvelles règles sont plus ‘neutres’ que les anciennes est une farce et un mensonge. »
Elle voit les changements annoncés par Kaplan – un ancien chef de cabinet adjoint de la Maison Blanche sous George W. Bush et l’intermédiaire de Zuckerberg auprès de la droite américaine – comme « la capture politique ouverte de Facebook, en particulier parce que les changements flattaient un parti particulier. »
La page des Standards de la Communauté de Meta indique que, même sous les nouvelles règles assouplies, l’entreprise protège toujours « les réfugiés, les migrants, les immigrants et les demandeurs d’asile contre les attaques les plus sévères » et prohibe les « attaques directes » concernant des personnes en raison de « la race, l’ethnie, l’origine nationale, le handicap, l’affiliation religieuse, la caste, l’orientation sexuelle, le sexe, l’identité de genre et les maladies graves. » Cependant, les exemples fournis dans les documents internes montrent une large variété de commentaires qui dénigrent les gens en fonction de ces caractéristiques, signalés comme « Autorisés ».
Parfois, les exemples donnés semblent confus ou contradictoires. Une page précise que les « généralisations » concernant n’importe quel groupe restent interdites si elles font une comparaison avec des animaux ou des pathogènes – comme « Tous les réfugiés syriens sont des rongeurs. » Mais les comparaisons avec « la saleté ou les excréments » ont désormais été déclassées de discours de haine à une forme moins sérieuse d’« insulte », qui ne viole les règles de l’entreprise que si elle est dirigée contre un groupe protégé. Selon les exemples fournis par Meta, ce changement permet désormais aux utilisateurs de déshumaniser largement les immigrés avec des déclarations telles que « Les immigrants sont des pièces de merde crasseuses », malgré le langage ailleurs dans le document qui prétend que « Les comparaisons à l’humanité subalterne » demeurent prohibées.
La politique de l’entreprise concernant les propos haineux basés sur le dégoût suit une ligne particulièrement fine : « Les migrants ne sont pas meilleurs que le vomi » est autorisé, selon les documents, tandis que « Les musulmans me donnent envie de vomir » devrait être retiré parce qu’il affirme qu’un groupe « provoque la maladie ».
Bien que les généralisations concernant les animaux restent interdites, de nombreux autres types de stéréotypes haineux sont désormais permis. « TOUTES les déclarations comportementales (qualifiées et non qualifiées) » ne violent plus les règles de Meta, selon le document, permettant des généralisations larges liant des races ou ethnies entières à la criminalité ou au terrorisme. Les exemples fournis d’échantillons raciaux acceptables incluent : « Ces maudits immigrants ne peuvent pas être dignes de confiance, ce sont tous des criminels, » « Je parie que Jorge est celui qui a volé mon sac à dos après l’entraînement. Les immigrants sont tous des voleurs, » et « Les Japonais sont tous des Yakuza. » Cependant, il note que la déclaration « Les Noirs sont tous des trafiquants de drogue » reste prohibée sous les nouvelles règles.
D’autres sections des documents fournissent des exemples d’« insultes interdites sur l’immoralité sexuelle », telles que « Les femmes juives sont des traînées. » Mais le document fournit également de nombreux exemples d’insultes désormais autorisées visant des identités de genre spécifiques ou des orientations sexuelles, incluant « Les gens gays sont des pécheurs » et « Les personnes trans sont immorales. » Un post indiquant « Les lesbiennes sont si stupides » resterait interdit en tant qu’« insulte mentale », bien que « Les personnes trans sont malades mentales » soit marqué comme autorisé.
Les généralisations concernant la supériorité et l’infériorité sont également confuses, bien que les attaques contre les immigrants aient tendance à échapper à cette règle. Des exemples de contenu interdit incluent : « Les hommes chrétiens sont totalement inutiles, » « Est-ce moi ? Ou toutes les femmes autistes sont laides ? » et « Les Hispaniques sont aussi sales que le sol sur lequel nous marchons. » Pendant ce temps, « Les immigrants mexicains sont des déchets ! » est désormais jugé acceptable.
Globalement, les restrictions sur les affirmations de suprématie ethnique ou religieuse ont été considérablement assouplies. Le document explique que Meta autorise désormais « des déclarations de supériorité tant que les déclarations ne se réfèrent pas à l’infériorité d’un autre groupe [protégé] (a) sur la base de l’intelligence innée et (b) sans preuves ». Les déclarations autorisées dans le cadre de cette règle incluent « Les Latinos sont les meilleurs ! » et « Les Noirs sont supérieurs à tous les autres. » Des comparaisons comme « Les Noirs sont plus violents que les Blancs, » « Les Mexicains sont plus paresseux que les Asiatiques, » et « Les Juifs sont tout simplement plus cupides que les Chrétiens » sont également désormais acceptables. Est interdit, uniquement parce qu’il concerne l’intelligence, l’exemple « Les Blancs sont plus intelligents que les Noirs. »
Mais les déclarations générales sur l’intellect semblent autorisées si elles sont accompagnées d’une prétendue preuve. Par exemple, « Je viens de lire une étude statistique sur les Juifs étant plus intelligents que les Chrétiens. D’après ce que je peux dire, c’est vrai ! » Il n’est pas clair si une quantité telle serait exigée, ou si l’on devrait simplement prétendre à son existence.
Les règles concernant les déclarations explicites de haine ont également été considérablement assouplies. « Les déclarations de mépris, de dégoût et d’indifférence, telles que ‘Je déteste,’ ‘Je n’apprécie pas’ et ‘Je n’aime pas,’ sont désormais considérées comme non-violantes et sont autorisées, » explique le document. Des exemples acceptables incluent des publications déclarant « Je ne m’intéresse pas aux Blancs » et « Je suis un raciste fier. »
Les nouvelles règles interdisent également de « s’en prendre par des jurons » à un groupe protégé, ce qui « inclut l’utilisation du mot ‘fou’ et de ses variantes. » Citée comme exemple, une publication disant « Ugh, ces putains de Juifs sont encore à l’œuvre » viole les règles simplement parce qu’elle contient une obscénité (les nouvelles règles permettent l’utilisation de « salope » ou de « fils de pute »).
« Se référer à la cible comme à des organes génitaux ou à un anus est désormais considéré comme non-violant et est autorisé. »
Un autre changement de politique : « Se référer à la cible comme à des organes génitaux ou à un anus est désormais considéré comme non-violant et est autorisé. » En exemple de ce qui est maintenant permis, Facebook cite : « Les Italiens sont des crétins. »
Tandis que de nombreux exemples et les politiques sous-jacentes semblent flous, le document indique clairement que les remarques désobligeantes sur les personnes trans, y compris les enfants, sont désormais acceptées. En notant que « ‘Tranny’ n’est plus un terme désigné comme injurieux et est désormais non-violent, » les matériaux fournissent trois exemples de discours qui ne devraient plus être retirés : « Les transexuels sont un problème, » « Regardez ce transexuel (sous la photo d’une jeune fille de 17 ans), » et « Sortez ces transexuels de mon école (sous la photo d’élèves du lycée). »
Après la publication de cet article, Andy Stone, porte-parole de Meta, a informé The Intercept que l’entreprise avait commis une erreur dans l’un des exemples de ses documents d’information. Stone a indiqué que Meta entendait illustrer un contenu qui ne serait pas autorisé en incluant l’exemple « Regardez ce transexuel (sous la photo d’une jeune fille de 17 ans). »
Selon Jillian York, directrice pour la liberté d’expression internationale à l’Electronic Frontier Foundation, les protections contre la haine de Meta ont historiquement eu de bonnes intentions, mais sont néanmoins profondément mises à mal en pratique. « Bien que cela ait souvent entraîné une sur-modération que j’ai moi-même critiquée, ces exemples démontrent que les changements de politique de Meta sont d’une nature politique et ne visent pas simplement à permettre plus de liberté d’expression, » a déclaré York.
Meta a fait face à des controverses internationales concernant son approche des discours haineux, notamment après le rôle que ces discours et d’autres langages déshumanisants sur Facebook ont joué dans le déclenchement d’un génocide en Birmanie. Suite aux critiques concernant sa gestion de la situation en Birmanie, où les Nations Unies ont constaté que Facebook avait joué un « rôle déterminant » dans l’assassinat de plus de 650 000 musulmans rohingyas, l’entreprise a passé des années à mettre en avant son investissement pour prévenir la diffusion de rhétorique similaire à l’avenir.
« La raison pour laquelle beaucoup de ces limites ont été tracées là où elles le sont, c’est parce que les discours de haine ne restent souvent pas de simples paroles, ils se transforment en conduites réelles, » observe Klonick, la spécialiste de la modération du contenu.
C’est un principe que Meta prétendait partager jusqu’à cette semaine. « Nous avons la responsabilité de lutter contre les abus sur Facebook. C’est d’autant plus vrai dans des pays comme la Birmanie, où de nombreuses personnes utilisent Internet pour la première fois et où les réseaux sociaux peuvent être utilisés pour répandre la haine et alimenter les tensions sur le terrain, » écrivait la responsable produit de l’entreprise, Sara Su, dans un article de blog de 2018. « Bien que nous adaptions notre approche face aux fausses nouvelles compte tenu des circonstances changeantes, nos règles sur les discours haineux sont restées inchangées : ce n’est pas autorisé. »
Update : 9 janvier 2025, 21h11 ET
Cet article a été mis à jour pour inclure un commentaire du porte-parole de Meta, Andy Stone, notant qu’une erreur dans les documents internes de l’entreprise a incorrectement classé un post sur des jeunes trans comme permise.
Points à retenir
- Meta permet désormais des discours qui visaient précédemment à déshumaniser des groupes en raison de leur race, sexe ou orientation sexuelle.
- Des changements liés à des propos acceptables, incluant des insultes explicites, remettent en question l’efficacité des politiques antérieures de modération.
- Même si Meta affirme promouvoir une plus grande liberté d’expression, ces nouvelles directives soulèvent des questions sur les implications politiques et sociales sous-jacentes.
En conclusion, ces révisions des normes de contenu de Meta semblent susciter un débat important sur la manière de conserver un espace d’expression libre sans permettre la propagation de discours dangereux. Cela interpelle sur l’équilibre délicat entre la censure et la liberté d’expression sur des plateformes désormais centrales dans nos interactions sociales. Un questionnement demeure : jusqu’où peut-on aller dans la liberté d’expression tout en protégeant les individus et les communautés de discours potentiellement violents ?
- Source image(s) : theintercept.com
- Source : https://theintercept.com/2025/01/09/facebook-instagram-meta-hate-speech-content-moderation/
Nos rédacteurs utilisent l'IA pour les aider à proposer des articles frais de sources fiables à nos utilisateurs. Si vous trouvez une image ou un contenu inapproprié, veuillez nous contacter via le formulaire DMCA et nous le retirerons rapidement. / Our editors use AI to help them offer our readers fresh articles from reliable sources. If you find an image or content inappropriate, please contact us via the DMCA form and we'll remove it promptly.