Les systèmes d’intelligence artificielle (IA) générative révèlent et renforcent des préjugés et stéréotypes antidémocratiques, notamment en ce qui concerne la représentation des femmes, des personnes noires, des personnes âgées et des personnes avec des handicaps visibles dans les images professionnelles générées par l’IA. Cette problématique a été analysée dans une étude intitulée Generative AI Carries Non-Democratic Biases and Stereotypes: Representation of Women, Black Individuals, Age Groups, and People with Disability in AI-Generated Images across Occupations, effectuée par Ayoob Sadeghiani de l’Université Métropolitaine de Toronto, et publiée dans la revue JEOD – Journal of Entrepreneurial and Organizational Diversity (14(1): 119-130, 2025).
L’auteur a passé en revue 444 images générées par Microsoft Designer, Meta AI et Ideogram à travers 37 professions, mettant en évidence d’importantes disparités de représentation. Il a constaté que les femmes sont sous-représentées dans les rôles de direction et technologiques, que les personnes noires sont presque absentes, et que les personnes avec des handicaps visibles sont totalement absentes dans toutes les catégories. Un préjugé lié à l’âge a également été noté, avec une domination de la représentation des jeunes. Ces résultats laissent penser que les outils d’IA générative répliquent et parfois amplifient les inégalités et stéréotypes déjà présents sur le lieu de travail, ce qui remet en question les valeurs démocratiques d’équité et d’inclusion.
Selon Sadeghiani, « mes résultats soulignent l’urgence d’une exposition algorithmique à la diversité. Je recommande aux développeurs d’IA et aux utilisateurs d’entreprises de passer en revue leurs outils pour identifier les risques liés à l’équité, à la diversité et à l’inclusion (EDI). Je soutiens l’importance de l’inclusion de groupes divers dans le développement et la gouvernance de l’IA pour promouvoir des technologies plus démocratiques et socialement responsables ». (S.L.)
Source : informareunh
Points à retenir
- Les systèmes d’IA générative sont souvent biaisés, entraînant des stéréotypes négatifs dans la représentation des différentes catégories de la population.
- L’étude examine un échantillon d’images générées et révèle d’importantes lacunes dans la représentation des femmes, des personnes noires et des personnes en situation de handicap.
- La nécessité d’intégrer davantage de diversité dans la conception et l’utilisation des technologies d’IA est mise en avant pour éviter la perpétuation d’inégalités.
En réfléchissant aux implications de cette étude, il est crucial d’interroger l’impact des technologies d’IA sur notre société. Comment pouvons-nous garantir que ces outils deviennent des catalyseurs de diversité et d’inclusion plutôt que des reproductions de biais historiques ? Les futures développements en IA devraient être accompagnés d’un dialogue ouvert et inclusif.