Une étude révèle un possible glissement politique à droite de ChatGPT

Une étude récente révèle un décalage vers la droite dans les réponses de ChatGPT sur l’échiquier politique.

Des chercheurs chinois ont découvert que le célèbre chatbot d’intelligence artificielle (IA) d’OpenAI, ChatGPT, subit un changement de valeurs politiques vers la droite.

La recherche, publiée dans la revue Humanities and Social Science Communications, a soumis plusieurs modèles de ChatGPT à 62 questions issues du Political Compass Test, un test en ligne qui positionne les utilisateurs sur le spectre politique en fonction de leurs réponses.

Les chercheurs ont ensuite répété ces questions plus de 3 000 fois avec chaque modèle afin d’analyser comment leurs réponses évoluaient dans le temps.

Bien que ChatGPT affiche toujours des valeurs de « gauche libertaire », les chercheurs ont observé que des modèles tels que GPT-3.5 et GPT-4 présentaient « un décalage notable vers la droite » dans leurs réponses au fil du temps.

Ces résultats sont « marquants compte tenu de l’utilisation généralisée des grands modèles de langage (LLMs) et de leur potentiel impact sur les valeurs sociétales », soulignent les auteurs de l’étude.

L’étude de l’Université de Pékin s’inscrit dans le prolongement d’autres recherches publiées en 2024 par le Massachusetts Institute of Technology (MIT) et le Centre for Policy Studies au Royaume-Uni.

Ces deux rapports ont mis en lumière un biais en faveur de la gauche dans les réponses fournies par les LLMs et les modèles de récompense, qui sont des types de LLMs entraînés à partir de données sur les préférences humaines.

Les auteurs précisent que ces études antérieures n’ont pas examiné comment les réponses des chatbots IA évoluent avec des séries de questions répétées.

Les modèles IA doivent être soumis à un « contrôle continu »

Les chercheurs avancent trois hypothèses pour expliquer ce décalage vers la droite : une modification des datasets utilisés pour entraîner les modèles, le nombre d’interactions avec les utilisateurs ou les mises à jour du chatbot.

Les modèles tels que ChatGPT « apprennent et s’adaptent en permanence en fonction des retours des utilisateurs », indiquent-ils, ce qui pourrait signifier que ce décalage vers la droite reflète des changements plus larges dans les valeurs politiques de la société.

Des événements mondiaux polarisants, comme la guerre entre la Russie et l’Ukraine, pourraient également amplifier les questions posées aux LLM et les réponses reçues.

Si la situation n’est pas contrôlée, les chercheurs mettent en garde contre le risque de voir les chatbots IA fournir des « informations biaisées », ce qui pourrait polariser davantage la société ou créer des « chambres d’écho » renforçant les croyances particulières des utilisateurs.

Pour contrer ces effets, il est proposé de mettre en place un « contrôle continu » des modèles d’IA à travers des audits et des rapports de transparence, afin de garantir que les réponses d’un chatbot soient justes et équilibrées.

Points à retenir

• Une étude démontre un glissement politique vers la droite dans les réponses de ChatGPT.
• ChatGPT conserve des valeurs libertaires, mais d’autres modèles apprennent à donner des réponses plus conservatrices.
• Des facteurs tels que les ensembles de données et les interactions utilisateurs influencent ce décalage.

Cette analyse souligne l’importance d’une vigilance accrue concernant l’évolution des modèles d’IA. Les implications d’un changement de biais dans les réponses peuvent affecter la manière dont l’information est sollicitée et reçue, soulevant des questions sur les effets à long terme de ces technologies sur le tissu sociétal. Quelles mesures devrions-nous envisager pour garantir une évolution équilibrée des systèmes d’IA afin de préserver un débat public ouvert et constructif ?