Ne demandez pas conseil moral à ChatGPT !

Dois-je informer mon ami que son petit ami la trompe ? Dois-je intervenir lorsque j’entends une blague offensante ?

Face à des dilemmes moraux—ces situations où nos choix se heurtent à notre sens du bien et du mal—nous cherchons souvent des conseils. De nos jours, les gens se tournent également vers ChatGPT et d’autres grands modèles de langage pour obtenir des orientations.

De nombreuses personnes semblent satisfaites des réponses fournies par ces modèles. Dans une étude préliminaire, les participants ont jugé que les réponses générées par des LLM face à des questions morales étaient plus dignes de confiance, fiables et même nuancées que celles du chroniqueur en éthique du New York Times, Kwame Anthony Appiah.

Soutenir le journalisme scientifique

Si cet article vous plaît, envisagez de soutenir notre journalisme primé en vous abonnant. En souscrivant, vous contribuez à garantir l’avenir de récits percutants sur les découvertes et les idées qui façonnent notre monde aujourd’hui.

Cette étude fait partie de plusieurs autres qui montrent que les LLM peuvent fournir des conseils moraux solides. Une autre recherche, publiée en avril dernier, a révélé que les gens jugeaient le raisonnement d’une IA “supérieur” à celui des humains en termes de vertu, d’intelligence et de fiabilité. Certains chercheurs ont même proposé que les LLM puissent être formés pour donner des conseils financiers éthiques, malgré leur caractère “par essence sociopathe”.

Ces résultats laissent entendre que des conseils éthiques dignes de ce nom sont à notre portée—alors pourquoi ne pas demander à un LLM ? Toutefois, cette perspective repose sur plusieurs présupposés discutables. D’abord, des recherches indiquent que les gens ne reconnaissent pas toujours de bons conseils. De plus, beaucoup estiment que le contenu du conseil—les mots, écrits ou prononcés—est essentiel pour évaluer sa valeur, mais la connexion sociale joue également un rôle important dans la résolution des dilemmes, surtout moraux.

Dans un article de 2023, les chercheurs ont analysé de nombreuses études pour examiner ce qui rendait un conseil plus convaincant. Plus les gens percevaient un conseiller comme étant expert, plus ils étaient susceptibles de suivre ses conseils. Cependant, la perception n’a pas besoin de correspondre à l’expertise réelle. Par ailleurs, les experts ne sont pas nécessairement de bons conseillers, même dans leur domaine d’expertise. Dans une série d’expériences portant sur un jeu de mots, ceux qui recevaient des conseils des meilleurs joueurs ne s’en sortaient pas mieux que ceux qui étaient encadrés par des joueurs moins performants. En effet, les personnes qui excellent dans une tâche ne savent pas toujours comment elles y parviennent et ne peuvent pas conseiller les autres de manière efficace.

Les gens tendent aussi à croire que des informations neutres et factuelles seront plus éclairantes que des détails subjectifs, comme un témoignage. Pourtant, ce n’est pas forcément vrai. Prenez par exemple une étude où des étudiants ont participé à des sessions de speed-dating. Avant chaque rendez-vous, ils étaient présentés avec le profil de la personne qu’ils allaient rencontrer ou un témoignage décrivant l’expérience d’un autre élève avec l’activité. Bien que les participants s’attendaient à ce que les informations factuelles sur leur rendez-vous prédisent mieux le déroulement de la session, ceux qui avaient lu un témoignage d’autrui faisaient des prévisions plus précises concernant leurs expériences.

Il est vrai que ChatGPT ne peut pas s’appuyer sur des expériences vécues pour conseiller. Mais même si nous pouvions garantir que nous recevons (et reconnaissons) des conseils de qualité, d’autres bénéfices sociaux que les LLM ne peuvent remplacer demeurent. Lorsque nous cherchons des conseils moraux, nous partageons souvent quelque chose de personnel—et, souvent, nous désirons plus de proximité que d’instruction. S’engager dans l’auto-divulgation est un moyen connu de se sentir rapidement proche de quelqu’un. Au fil de la conversation, le conseiller et le conseiller peuvent rechercher et établir une réalité partagée—c’est-à-dire un sentiment de similarité dans des états intérieurs tels que les émotions, les croyances et les préoccupations concernant le monde—and that too promotes closeness. Bien que les individus puissent avoir la sensation d’établir un lien et une réalité partagée avec un LLM, ces modèles ne sont pas de bons substituts aux relations interpersonnelles, du moins pour le moment.

Certains pourraient désirer éviter l’interaction sociale. Ils craignent que leurs échanges soient gênants ou que leurs amis se sentent accablés en partageant leurs problèmes. Pourtant, des recherches montrent que les gens sous-estiment à quel point ils apprennent à apprécier aussi bien des conversations brèves et spontanées que des échanges profonds avec des amis.

En matière de conseils moraux, il convient d’être particulièrement prudent—ils semblent souvent plus réels, presque factuels, qu’une opinion ou une préférence. Votre perspective, comme la mienne, sur le fait que les chips au sel et au vinaigre sont les meilleures est subjective. Mais des idées telles que “voler est mal” ou “l’honnêteté est bonne” semblent définitives. De ce fait, les conseils accompagnés de nombreuses justifications morales peuvent être particulièrement convaincants. Pour cette raison, il est judicieux d’évaluer soigneusement chaque instance de conseil moral, qu’elle provienne d’un conseiller humain ou d’une IA.

Il arrive que la meilleure façon de gérer des débats chargés de convictions morales soit de les reformuler. Lorsque les gens ont des croyances morales fortes et voient un problème en noir et blanc, ils peuvent devenir réticents à trouver des compromis ou d’autres solutions pratiques. Mes recherches antérieures indiquent que lorsque les gens jugent des comportements sexuels risqués, l’usage de cigarettes ou la possession d’armes à feu, ils sont moins susceptibles de soutenir des politiques qui réduisent les dommages liés à ces comportements, car la politique permet encore ces actions. En revanche, les individus ne s’inquiètent pas de réduire les dommages liés à des comportements jugés en dehors du domaine de la moralité, comme le port de la ceinture de sécurité ou d’un casque. Changer de perspective, en passant d’une analyse morale à une analyse pratique, est déjà difficile pour un individu et probablement trop intensif pour un LLM dans ses itérations actuelles.

Il convient également de s’interroger sur une autre préoccupation relative aux LLM. ChatGPT et d’autres modèles de langage réagissent de manière très sensible à la façon dont les questions sont formulées. Comme le démontre une étude publiée en 2023, les LLM peuvent fournir des conseils moraux conflictuels et parfois contradictoires d’une invite à l’autre. La facilité avec laquelle les réponses d’un modèle peuvent changer devrait nous inciter à prendre du recul. Fait intéressant, cette même étude a révélé que les participants ne croyaient pas que les conseils du modèle influençaient leur jugement, pourtant ceux qui avaient reçu et lu des conseils générés par un LLM avaient tendance à agir en accord avec ces recommandations, plus qu’un groupe similaire qui n’avait pas consulté ces messages. En somme, l’influence des inputs fournis par un LLM est plus profonde qu’ils ne l’imaginent.

En ce qui concerne les LLM, il est prudent de faire preuve de circonspection. Les individus ne sont pas toujours les meilleurs juges des bons conseillers et des bons conseils, surtout dans le domaine moral, et nous avons souvent besoin de véritables connexions sociales, de validation et même de défis au lieu d’une simple réponse “d’expert”. Vous pouvez donc poser des questions à un LLM, mais ne vous arrêtez pas là. Posez également la question à un ami.