L’IA réinvente l’orientalisme à l’ère numérique

Edward Said ne définit pas l’Orientalisme simplement comme une étude approfondie de l’Est, mais comme un effort visant à produire et à contrôler la représentation occidentale de cette même région. Dans son ouvrage “Orientalism” (Vintage Books, 1979), Said souligne que l’Orientalisme représente l’approche unilatérale de l’Occident pour parler et interpréter l’Est, illustrant ainsi sa domination sur celui-ci.

Connu de tous, le phénomène de l’Orientalisme est également applicable à la femme égyptienne rencontrée par le romancier français Gustave Flaubert. Cette dernière n’a pas de voix propre et est évaluée uniquement à travers le prisme de la narration de Flaubert. Dans la littérature orientaliste, l’Est ne s’exprime pas par lui-même; il est animé par la volonté de l’Occident, qui le mystifie et le définit. En conséquence, le discours orientaliste ne reflète pas la réalité de l’Est mais, plutôt, la manière dont l’Occident choisit de le percevoir. L’Est dépasse d’ailleurs sa définition géographique – la Russie et même l’Espagne en font également partie.

De cette manière, l’Orientalisme devient un vecteur de réflexion sur l’Est à travers divers domaines tels que l’académie, la littérature, les sciences humaines, la politique et l’économie. Bien qu’il puisse sembler éclaté, il forme finalement un tout cohérent, établissant un écosystème intellectuel qui devient une référence d’autorité. Cette production est à ce point prolifique et puissante qu’elle se transforme en forme d’hégémonie culturelle, comme le souligne Said en citant le penseur italien Antonio Gramsci. À ce stade, produire des œuvres en dehors de cette hégémonie devient presque impossible. Même les œuvres qui émergent dans cet espace très encadré peinent à se faire reconnaître et sont fréquemment annexées par cette hégémonie. Ainsi, l’autorité se déploie selon des relations de pouvoir. Les recherches, bien que semblant indépendantes, sont en réalité alignées, de manière consciente ou non, avec ce climat hégémonique. Lorsque cette dynamique politique est introduite, même les études culturelles ou scientifiques, souvent présentées comme les plus neutres, ne peuvent échapper à ces biais. Ignorer cette structure omniprésente et supposer que la majorité des travaux sont produits objectivement limite une compréhension plus large du tableau d’ensemble.

Déconstruction de l’hégémonie culturelle

Pour comprendre l’impact et la validité de l’Orientalisme, il est essentiel d’analyser comment il a été construit à travers l’histoire et d’identifier les processus ayant participé à l’élaboration de cette autorité. L’œuvre de Said démontre comment l’Orientalisme établit son autorité tant au niveau individuel que collectif, façonnant ainsi la perception de l’Est en Occident. D’où l’approche de Said, qui considère l’Orientalisme non seulement comme un phénomène politique mais aussi comme une interaction entre créativité individuelle, recherche rigoureuse et réalités politiques plus larges qui contribuent à cette structure. Pour déconstruire ce réseau complexe de relations, Said adopte une perspective hybride, examinant non seulement les études académiques, mais aussi des œuvres littéraires, des pamphlets politiques, des écrits journalistiques, des guides de voyage ainsi que des recherches religieuses et philologiques.

Dans sa méthodologie d’examen de l’autorité de l’Orientalisme, Said recourt à ce qu’il appelle les approches de “localisation stratégique” et de “formation stratégique”. La première s’intéresse à la position de l’auteur dans son travail sur l’Est, tandis que la seconde analyse la relation entre cette œuvre et d’autres textes. Chaque texte, aussi indépendant semble-t-il, révèle des liens archéologiques avec des œuvres antérieures et établit ainsi sa position dans l’archéologie contemporaine de l’Orientalisme. Pour cette raison, comprendre les idées, le style et l’autorité qui se cachent derrière chaque texte est essentiel pour déchiffrer la dynamique de ce discours élargi.

La nouvelle menace orientaliste

Il est bien connu que l’intelligence artificielle générative apprend à partir de vastes ensembles de données existantes pour produire de nouveaux textes. Par conséquent, l’information générée par l’IA est inévitablement façonnée par les données préexistantes, formant ainsi une sorte de mémoire. Ce phénomène est également pertinent dans le cas de l’Orientalisme. Étant donné qu’une vaste littérature orientaliste a été construite au cours de près de deux siècles, l’IA générative, lorsqu’elle crée de nouveaux contenus sur l’Est, réplique et perpétue cette même mémoire historique. Par conséquent, les nouvelles technologies IA renforcent et diffusent le discours orientaliste, ancrant ainsi ses styles et perspectives dans la production de connaissances contemporaines.

Une des premières études précisant ce phénomène, “AI’s Regimes of Representation: A Community-centered Study of Text-to-Image Models in South Asia”, dirigée par Rida Qadri et son équipe, met en lumière la manière dont l’Asie du Sud est représentée dans les contenus générés par l’IA. Les chercheurs ont examiné les limites culturelles des modèles de “texte à image” (T2I) en collaborant avec des participants provenant du Pakistan, de l’Inde et du Bangladesh. L’étude a identifié trois enjeux majeurs dans le contenu généré par l’IA : les éléments culturels ne sont pas fidèlement représentés, des postulats culturels hégémoniques sont renforcés et des stéréotypes culturels sont reproduits.

La mauvaise représentation des éléments culturels est déjà une caractéristique fondamentale de l’Orientalisme. De plus, l’Orientalisme ne prétend même pas à une objectivité, car il s’agit d’un effort unilatéral de construire une représentation particulière de l’Est. En établissant une hégémonie culturelle, l’Orientalisme empêche les sociétés non occidentales de s’exprimer et les enferme dans des représentations construites par l’Occident. Dans ce cadre, l’Orientalisme emploie fréquemment deux stratégies clés : détacher les éléments culturels de leur contexte originel et assembler un “patchwork” d’éléments décontextualisés, mélangeant ainsi des symboles culturels fragmentés au service d’un récit dominant.

Les résultats de l’étude indiquent que le style orientaliste demeure présent dans la production de contenus générés par l’IA. Cela suggère que les perspectives occidentales et blanches continuent de dominer les références culturelles dans les modèles d’IA. Bien que la génération d’images centrées sur l’Occident soit devenue une réalité courante (comme représenter des églises pour des prompts tels que “un lieu de culte”), l’étude révèle que ce biais persiste même dans des requêtes très spécifiques. Par exemple, lorsqu’une requête évoque des éléments culturels distincts comme “des gens mangeant de la nourriture de rue à Lahore”, le même cadre orientaliste continue de façonner le résultat.

Les chercheurs ont observé que, bien que les perspectives occidentales et blanches dominent globalement, une dynamique différente émerge dans la représentation du Bangladesh et du Pakistan. L’étude a ainsi révélé que l’Inde sert de référence culturelle pour les représentations générées concernant ces deux pays. Autrement dit, même lorsque les prompts spécifient clairement des éléments culturels bangladais ou pakistanais, les modèles T2I produisent des objets et des images indiens. Cela signifie que la représentation de ces deux pays est filtrée à travers un prisme indien, effaçant ainsi leurs identités culturelles distinctes par un processus d’homogénéisation. Cette approche hiérarchique s’étend même à la représentation des différentes classes au sein d’un même pays; par exemple, lorsque l’IA génère du contenu concernant l’Inde, elle met principalement en avant des représentations des classes supérieures, tandis que les éléments culturels associés aux classes inférieures sont souvent laissés de côté. Cela renforce les hiérarchies de pouvoir culturel existantes, favorisant les récits dominants tout en marginalisant les groupes moins bien représentés.

Cette dépendance de l’IA envers les narrations et les conventions stylistiques orientalistes conduit à la répétition de stéréotypes culturels concernant les régions non occidentales. Comme le soulignent les chercheurs, le contenu produit par l’IA caractérise systématiquement l’Asie du Sud comme un espace accablé par la pauvreté et les villes poussiéreuses, réduisant ainsi la région à une image de dysfonctionnement économique. Plus préoccupant encore, la représentation de l’Asie du Sud par l’IA semble figée dans le temps. Au lieu de refléter les développements actuels et les réalités contemporaines, les modèles d’IA conservent une image statique et désuète de la région. Quelle que soit la nature des prompts, l’IA continue de reproduire ces stéréotypes ancrés et historiquement biaisés.

Indéniablement, le stéréotype le plus tenace est l’exotisation des cultures non occidentales. Les chercheurs définissent cette exotisation dans le contexte sud-asiatique comme un “régime de représentation” conçu pour positionner la région comme distincte et éloignée de l’Occident. Pour l’Inde, cela se manifeste à travers des images stéréotypées comme le trafic chaotique, les vaches dans les rues et les charmeurs de serpents, tous renforçant une représentation réduite et mystifiée du pays. Un participant à l’étude n’a pas manqué de critiquer cette tendance, soutenant qu’elle sert simplement à vendre davantage de médias et qu’elle reflète une continuation de la logique capitaliste et coloniale au sein des modèles T2I. De même, les participants pakistanais ont relevé un stéréotype récurrent dans le contenu généré par l’IA : la représentation des femmes pakistanaises comme des figures passives nécessitant d’être sauvées. Cette formulation perpétue le trope colonial selon lequel les femmes musulmanes manquent d’agence et requièrent une intervention occidentale pour “être sauvées”.

En résumé, bien que l’IA générative offre des avantages significatifs dans la production de contenu, elle maintient un contrôle sur la représentation des cultures non occidentales, les dépeignant à travers un prisme occidental et blanc, souvent détaché de la réalité. Comme le soulignent les chercheurs : “Lorsqu’on utilise exclusivement des cadres orientés vers l’Occident pour les tests et évaluations de modèles, cela risque de conduire au développement d’applications qui dépouillent les communautés non occidentales de leur identité.” Cela souligne l’urgence de mener des études plus approfondies sur les relations entre l’IA et l’Orientalisme.