Google DeepMind dévoile une théorie d’adéquation appliquée à l’intelligence artificielle générative

Le terme « approprié » fait référence aux normes spécifiques à un contexte qui guident les comportements, les discours et les actions dans différents environnements sociaux. Les êtres humains naviguent naturellement à travers ces normes, agissant différemment selon qu’ils se trouvent entre amis, en famille ou dans un cadre professionnel. De la même manière, les systèmes d’intelligence artificielle (IA) doivent adapter leur comportement pour s’accorder avec le contexte, les critères d’un assistant à la rédaction humoristique étant différents de ceux d’un représentant du service client. Un défi crucial réside dans la détermination de ce qui est approprié dans une situation donnée et dans la manière dont ces normes évoluent. Étant donné que ce sont les humains qui jugent finalement le comportement des IA, il est essentiel de comprendre comment l’appropriation influence la prise de décision humaine pour évaluer et améliorer les systèmes d’IA.

Le concept d’appropriation joue également un rôle central dans le domaine émergent de l’IA générative. Tous les acteurs socialement habiles — qu’ils soient humains ou machines — doivent modérer leur comportement en fonction du contexte et de la communauté dans lesquels ils opèrent. Cela rejoint les défis de modération de contenu que rencontrent les communautés numériques, où les modérateurs appliquent des règles explicites et des normes sociales implicites. Les systèmes d’IA générative font face à cette tâche similaire : réguler le contenu qu’ils génèrent afin de l’aligner sur des critères d’appropriation contextuelle. Toutefois, les standards d’appropriation varient d’un individu à l’autre et même au sein d’un même individu selon les situations. Par exemple, un chatbot assistant pédagogique doit se comporter différemment de celui conçu pour un jeu destiné à un public mature. Cela met en évidence la nature complexe et dynamique de l’appropriation, qui reste essentielle à mesure que l’IA s’étend dans des domaines physiques, culturels et institutionnels traditionnellement dominés par l’intelligence humaine.

Des chercheurs de Google DeepMind, de Mila – Québec AI Institute, de l’Université de Toronto et de l’Institut Max Planck ont présenté une « théorie de l’appropriation », examinant son rôle dans la société, ses bases neuronales et ses implications pour un déploiement responsable de l’IA. Cette théorie explore comment les systèmes d’IA peuvent agir de manière appropriée dans divers contextes, en soulignant les normes qui guident le comportement humain. L’article conceptualise l’appropriation comme un mécanisme de gouvernance dynamique et dépendant du contexte, essentiel pour la cohésion sociale. En s’écartant des cadres d’alignement traditionnels, il critique les hypothèses simplistes sur le noyau moral, plaidant pour que l’IA s’adapte aux normes pluralistes et évolutives qui façonnent les interactions humaines plutôt que de rechercher un consensus moral universel.

La recherche propose un modèle computationnel pour comprendre comment les humains déterminent un comportement approprié selon différents contextes. Elle avance que les individus utilisent un mécanisme de complétion de motifs, s’appuyant sur la mémoire et des indices situationnels pour prédire les actions adaptées. Ce processus fait appel à un espace de travail global qui intègre les stimuli sensoriels et les expériences passées, facilitant ainsi le processus décisionnel. Le modèle prend également en compte le rôle des conventions et des normes sociales, mettant en avant comment les comportements collectifs influencent le jugement d’appropriation individuel. En comprenant ces mécanismes, la recherche vise à informer le développement de systèmes d’IA générative capables de naviguer de manière responsable dans des environnements sociaux complexes.

Ce travail se positionne par rapport au comportement humain et à la cohésion sociale non pas à travers l’alignement mais l’appropriation, en soulignant que les sociétés se maintiennent grâce à des mécanismes de résolution de conflits plutôt que par des valeurs partagées. L’étude présente un modèle décisionnel qui contraste avec les approches basées sur la récompense, soulignant que l’appropriation dans le comportement humain émerge d’un mélange d’influences sociétales. Ce modèle distingue les normes explicites (articulées en langage) et implicites (incarnées dans les schémas cérébraux), pouvant guider les interactions entre humains et systèmes d’IA, notamment dans des tâches sensibles au contexte.

L’étude appelle à une prise en compte minutieuse lors de la conception des systèmes d’IA générative, en reconnaissant que l’appropriation est dépendante du contexte et profondément liée aux normes sociétales. Elle souligne que bien que l’IA ne possède pas la conscience du contexte sur le modèle humain, la prise en compte de l’appropriation est essentielle à son utilisation responsable. Le document suggère également que les IA pourraient éventuellement nécessiter des cadres juridiques spécifiques, similaires à la personnalité juridique des entreprises, pour traiter les questions éthiques et opérationnelles, surtout à mesure que leurs systèmes deviennent plus autonomes. Cela souligne l’importance des sciences cognitives dans la gouvernance de l’IA et dans la recherche d’un alignement avec les attentes sociétales.

Points à retenir

• La définition de l’appropriation est contextuelle et varie d’un environnement à un autre.
• Les systèmes d’IA générative doivent réguler leur contenu pour maintenir un comportement approprié.
• Le modèle de décision proposé distingue les normes explicites et implicites influençant le comportement humain.
• L’importance d’une gouvernance de l’IA qui prenne en compte les normes sociales et éthiques devient cruciale.
• La recherche sur l’appropriation peut enrichir la conception de systèmes d’IA adaptés aux interactions humaines.

Ce travail ouvre également un débat sur la future relation entre l’homme et la machine dans des contextes sociaux complexes. Alors que les systèmes d’IA deviennent de plus en plus omniprésents et autonomes, comprendre leur capacité à s’adapter à notre sens de l’appropriation pourrait en effet transformer non seulement leur efficacité, mais aussi notre coexistence avec eux.