Une intelligence artificielle humaine pourrait être plus souvent tenue responsable des violations morales

Dans une récente étude, des participants ont tendance à attribuer une responsabilité plus importante aux intelligences artificielles (IA) impliquées dans des transgressions morales lorsqu’ils les considèrent comme ayant des esprits plus similaires à ceux des humains. Minjoo Joo, de l’Université des Femmes Sookmyung à Séoul, en Corée, présente ces conclusions dans la revue en accès libre PLOS ONE le 18 décembre 2024.

Des recherches antérieures ont déjà montré que les individus avaient tendance à blâmer l’IA pour diverses transgressions morales, par exemple lorsqu’un véhicule autonome heurte un piéton ou lors de décisions ayant entraîné des préjudices médicaux ou militaires.

De plus, d’autres études suggèrent que les gens attribuent davantage de culpabilité aux IA qu’ils perçoivent comme capables de conscience, de pensée et de planification. Les individus sont plus enclins à doter de telles capacités aux IA qu’ils considèrent comme étant dotées d’esprits humains capables d’expériences conscientes.

En s’appuyant sur ces recherches antérieures, Joo a émis l’hypothèse selon laquelle les IA perçues comme ayant des esprits semblables à ceux des humains pourraient recevoir une part plus importante de responsabilité pour une transgression morale donnée.

Pour tester cette théorie, Joo a mené plusieurs expériences dans lesquelles les participants ont été confrontés à divers exemples réels de transgressions morales impliquant des IA—comme le marquage de photos de manière raciste—et ont dû répondre à des questions évaluant leur perception des capacités de l’IA impliquée, ainsi que le degré de culpabilité qu’ils assignaient à l’IA, à son programmeur, à l’entreprise derrière elle, ou au gouvernement.

Dans certains cas, la perception de l’esprit de l’IA a été modifiée en décrivant un nom, un âge, une taille et un hobby pour l’IA.

Au cours des expériences, les participants ont tendance à attribuer beaucoup plus de culpabilité à une IA lorsqu’ils la percevaient comme ayant un esprit plus humain. Dans ces cas, lorsqu’on leur demandait de répartir la culpabilité relative, ils avaient tendance à assigner moins de culpabilité à l’entreprise impliquée. Cependant, lorsque les participants étaient interrogés sur la culpabilité de chaque acteur individuellement, il n’y avait pas de réduction de la culpabilité attribuée à l’entreprise.

Ces résultats montrent que la perception de l’esprit des IA est un facteur clé dans l’attribution de la culpabilité pour les transgressions impliquant l’IA. Par ailleurs, Joo soulève des inquiétudes concernant les conséquences potentiellement néfastes de l’utilisation abusive des IA comme boucs émissaires et appelle à des recherches supplémentaires sur l’attribution de la culpabilité aux IA.

Joo déclare : “Les IA peuvent-elles être tenues responsables de transgressions morales ? Cette recherche montre que percevoir l’IA comme humanoïde augmente la culpabilité envers celle-ci tout en réduisant la culpabilité des parties humaines impliquées, soulevant ainsi des préoccupations quant à l’utilisation de l’IA comme bouc émissaire moral.”