Pourquoi l’IA a besoin de jugements basés sur le caractère

Une question m’a été posée récemment : est-il possible d’incorporer du caractère dans des humains synthétiques ? Pour ceux qui ne sont pas familiers avec le terme « synths », comme ils sont souvent appelés, Cathy Hackl, une contributrice de Forbes, propose une excellente introduction à ces robots humanoïdes conçus pour être indiscernables des véritables humains. Les synths sont développés pour dépasser l’intelligence artificielle générative (IA) et viser une intelligence artificielle générale, tout en bénéficiant d’une conception humaine qui cherche à imiter la façon dont nous traitons l’information, apprenons et interagissons. Par exemple, comme l’explique Jun Wu, un autre contributeur de Forbes, l’empathie—une caractéristique souvent absente de l’IA—est essentielle pour l’intelligence artificielle générale et un trait fondamental des synths. Se pencher sur la conception des synths propulsés par l’IA représente un test ultime du caractère, car de nombreuses critiques de l’IA s’attachent à son manque de qualités humaines.

Réfléchir à la possibilité d’intégrer du caractère dans les synths nous conduit à l’argument de Shannon Vallor dans son ouvrage, AI Mirror. Vallor met en garde que l’IA, tel un puissant mais imparfait miroir, reflète les biais et les échecs des valeurs que les humains tentent d’échapper. Pour bien comprendre le miroir défectueux de l’IA, il est primordial d’abord de saisir notre propre caractère. En examinant de quelle manière le caractère se manifeste chez les individus et l’IA, nous pouvons renforcer le jugement basé sur le caractère qui les sous-tend tous deux.

Introduction au caractère

L’étude du caractère, une discipline riche d’une longue histoire remontant à des figures influentes comme Confucius, Aristote et Platon, a récemment gagné en importance dans le domaine de la gestion. Cette remise en lumière souligne le potentiel du caractère à améliorer le bien-être et la prise de décision tout en soutenant une excellence durable.

Nous avons élaboré un cadre de caractère pour les leaders qui établit un lien entre la science et la pratique du caractère, révélant 11 dimensions interconnectées, avec le jugement—la « sagesse pratique » d’Aristote—au centre (voir Figure 1). Chaque dimension englobe des comportements vertueux observables, évaluables et développables, qui peuvent exister dans des états de vice jugés déficients ou excessifs. L’excès se manifeste lorsque la force en question n’est pas étayée par d’autres comportements nécessaires. Par exemple, le courage peut mener à l’imprudence sans tempérance ou aboutir à de la couardise en cas de déficit.

Le caractère résulte des habitudes façonnées par les expériences de vie d’une personne. Par exemple, chaque acte que nous accomplissons peut renforcer ou affaiblir notre courage. Lorsque nous évaluons le caractère de quelqu’un, il est essentiel de considérer la probabilité qu’il manifeste certaines comportements de manière cohérente, en évitant les extrêmes qui pourraient signaler un vice. Le développement du caractère repose sur quatre systèmes interconnectés : physiologie, affect, comportement et cognition. Par exemple, une personne peut avoir l’intention d’agir avec courage (cognition), mais la peur (affect) et une réponse de fuite ou de combat (physiologie) peuvent entraver l’action (comportement). Bien que le caractère d’une personne puisse être influencé par son environnement, un caractère solide est moins dépendant de facteurs externes, tels que les normes sociales et les incitations, qui pourraient autrement façonner son comportement.

IA et caractère

Comme l’explique Craig Smith, contributeur de Forbes, l’intelligence artificielle générale peut désormais être envisagée comme un spectre avec l’intelligence artificielle superintelligente à portée de main. Bien que je parle de l’IA de manière plus générale, il est nécessaire de reconnaître que l’IA existe sur un spectre, et l’évaluation de la façon dont le caractère peut ou ne peut pas y être intégré dépend de ce spectre, avec le défi supplémentaire que ce dernier est en constante évolution.

Il y a deux points clés à prendre en compte lors de l’examen de l’alignement de l’IA avec les 11 dimensions du caractère et leurs comportements associés. Le premier point est que le caractère faible ou déséquilibré peut mener à un jugement défaillant. Cela illustre l’avertissement de Vallor selon lequel l’IA peut agir comme un miroir imparfait lorsqu’elle nous renvoie le caractère faible ou déséquilibré des humains. Le second point est que le caractère ne peut remplacer la compétence, et vice versa. La compétence, qui se concentre sur les connaissances, les compétences et les capacités, représente un défi distinct pour l’IA. Quelle que soit la capacité de l’IA à substituer adéquatement la compétence, elle ne peut pas remplacer le caractère.

Transcendance

La dimension de la transcendance, avec ses comportements d’appréciation, d’inspiration, de but, d’optimisme et de créativité, souligne son importance dans la culture d’un sentiment de possibilité tout en restant clair sur ce qui est essentiel. L’IA générative est conçue pour créer de nouveaux contenus et renforcer la créativité humaine, comme le décrivent Eapen et ses collègues dans leur article de 2023 dans la Harvard Business Review. Ils soutiennent que cela renforce la créativité humaine en favorisant la pensée divergente, en remettant en question les biais d’expertise, en aidant à l’évaluation des idées, en soutenant le perfectionnement des idées et en facilitant la collaboration. L’élément clé est que l’IA générative renforce et n’est pas un substitut à la créativité humaine, et la même idée s’applique aux autres comportements de transcendance. développer la transcendance, c’est cultiver un état d’être qui favorise une perspective expansive chez les humains. Les déficiences en matière de transcendance compromettent le jugement en limitant les possibilités imaginées. Cependant, lorsque la transcendance forte n’est pas soutenue par d’autres dimensions, les individus risquent d’être perçus comme déconnectés de la réalité ou illusoires.

Dynamisme

Bien que l’IA puisse être programmée pour sembler passionnée, l’écart entre son apparence et sa réalité est particulièrement manifeste lorsqu’on pense aux humains. Les difficultés rencontrées par chacun pour devenir passionné et maintenir cette passion offrent des aperçus sur ce qui manque lorsque nous nous concentrons uniquement sur la façon de paraître passionné. Bien que l’accent mis sur les résultats puisse bien se marier avec l’IA, il est important de prendre en compte que viser l’excellence nécessite une imagination de ce qu’est l’excellence, laquelle doit également être reliée aux autres dimensions du caractère, incluant la justice et l’humanité, afin que le dynamisme ne fonctionne pas en état d’excès.

Collaboration

Bien que l’IA puisse certainement favoriser la collaboration, comme le décrit Peter Pluim dans Forbes, il est important de ne pas ignorer les fondations humaines du caractère dans ce contexte. Devenir quelqu’un de coopératif, collégial, ouvert d’esprit, flexible et interconnecté est ce qui permet véritablement un engagement efficace avec les autres et l’IA. Cette emphase sur le caractère souligne l’élément humain dans la collaboration, mettant en lumière non seulement ce qui peut distinguer les humains de l’IA, mais aussi les défis auxquels les humains font face pour cultiver les comportements associés à la collaboration.

Humanité

L’humanité est l’une des dimensions sur lesquelles reposent bon nombre des critiques de l’IA. La crainte fondamentale est que les algorithmes et les calculs effacent l’humanité. Vallor parle du danger de traiter l’IA comme si elle était humaine. L’essor de personnes cherchant une intimité artificielle via l’IA, comme l’a souligné Virginie Berger de Forbes, révèle que l’IA peut souvent sembler plus compatissante que les humains. Il est vrai que l’IA pourrait parfois exceller dans la capacité à pardonner et à se montrer attentionnée, et il est concevable de programmer certains protocoles que les humains peinent souvent à adopter. Cependant, au meilleur de ses capacités, la force de l’humanité ne sera jamais égalée par l’IA. Toutefois, il est important de noter qu’une forte humanité, non soutenue par d’autres dimensions, pourra compromettre le bien-être et le jugement, comme en témoignent les cas d’épuisement professionnel, de fatigue compassionnelle, ou d’incapacité à rendre les gens responsables par peur de leur causer du tort.

Humilité

Bien que les gens aient souvent tendance à envisager l’humilité dans son état excessif de réserve ou d’effacement, ils négligent que des niveaux élevés d’humilité, lorsqu’ils sont soutenus par les autres dimensions du caractère, constituent une véritable force pour l’apprentissage et le développement. En revanche, un niveau élémentaire d’humilité est inscrit dans l’IA générative. Nous ne pensons pas que l’IA lutte contre des notions d’humilité, de vulnérabilité, de respect ou de conscience de soi, alors que ces comportements restent des défis pour les humains. Le fait que ces comportements ne soient pas perçus comme partie intégrante de l’IA suggère que les états déficients d’humilité, telles que le manque de réflexion ou de désintérêt, pourraient constituer des angles morts pour l’IA. Lorsqu’ils sont développés chez les humains, une force en humilité offre une distinction qui nous différencie.

Intégrité

Tandis que les humains peinent avec la franchise, la transparence et la cohérence, l’IA pourrait être caractérisée comme étant intrinsèquement franche, transparente et cohérente. Toutefois, en raison de faiblesses dans d’autres dimensions, ces caractéristiques opèrent efficacement dans un état de vice excessif. Par exemple, lorsque la cohérence n’est pas liée à des responsabilités sociales, elle devient rigide, et la franchise, sans empathie, peut devenir agressive. L’IA ne possède pas les principes et l’authenticité cultivés au fil du temps par les êtres humains grâce à leur expérience de vie. Pour les humains, le développement de l’intégrité constitue un enjeu crucial face aux interactions avec l’IA, assurant ainsi que nous ne perdions ni notre authenticité ni nos principes. L’impact du contexte sur notre développement, particulièrement via les médias sociaux, était déjà soulevé bien avant l’avènement de l’IA.

Tempérance

La tempérance s’avère souvent être l’une des dimensions les plus faibles du caractère chez la plupart des individus. En raison de ses connexions claires avec la physiologie et l’affect, elle agit comme une ligne de défense primordiale dans nos interactions quotidiennes. Nous remarquons rapidement lorsque nous devenons impatients, par exemple. Bien que des termes comme calme ou patience ne soient pas automatiquement associés à l’IA, il est instructif de considérer cette dernière comme étant empreinte d’une certaine sérénité, car cela nous permet de comprendre le risque d’un état d’indifférence excessif. Souvent, notre patience et notre calme sont mis à l’épreuve, car nous ne sommes pas indifférents, les autres dimensions comme la justice ou l’humanité éveillant en nous la peur ou l’inquiétude.

Justice

La justice est la dimension qui suscite de vives préoccupations chez de nombreux critiques de l’IA, car elle soulève des questions morales et éthiques. Par exemple, l’IA générative, fondée sur ce qui pourrait être perçu comme la conscience collective du monde, intègre inévitablement les injustices sustain ce dernier. Étant liée à toutes les autres dimensions du caractère, notre sens du juste ou de l’équitable est façonné par notre humanité, par exemple. Un individu qui fait preuve de manque de compassion ou d’empathie risque d’avoir des angles morts relatifs à la justice. Il ne s’agit pas simplement de justice, mais de la manière dont celle-ci est influencée par toutes les dimensions du caractère.

Responsabilité

Devenir une personne qui prend ses responsabilités, accepte les conséquences, fait preuve de conscience et de diligence est un défi. La question de savoir comment ces caractéristiques sont intégrées dans l’IA demeure ouverte, et des préoccupations similaires à celles évoquées dans la section précédente sur la justice s’appliquent également ici. Sur quelle base l’IA est-elle responsable, et devant qui ? Cultiver la responsabilité implique de répondre également des systèmes que nous concevons et auxquels nous faisons appel, y compris l’IA.

Courage

Devenir brave, déterminé, tenace, résilient et confiant est un chemin ardu pour les humains. Tel est le cas pour toutes les dimensions du caractère, mais cette dimension est particulièrement explicite. Nos expériences de vie nous façonnent, souvent à travers des moments décisifs. Bien qu’il soit tentant de penser que l’IA a une détermination et une ténacité sans limites, et qu’elle fonctionne tant qu’elle est programmée, cette perspective néglige l’essence même de la manière dont le courage humain influence le jugement et souffre des mêmes préoccupations que celles que j’ai soulevées concernant la tempérance. Le courage ne se résume pas à une détermination tenace issue d’un algorithme, mais à des expériences de vie qui cultivent le courage – comprendre ce qui importe, ce qui est complexe, et comment nous rebondissons. Tous ces éléments influencent notre jugement.

Jugement

Bien qu’il existe de nombreux comportements associés au jugement que l’IA peut améliorer, comme l’analyse et la complexité cognitive, plusieurs comportements jouent un rôle de premier plan en matière de caractère. Le premier est l’ensemble de comportements qui façonnent les autres, tels que la conscience situationnelle, l’intuition et la perspicacité. De plus, le jugement agit comme un contrôleur aérien pour toutes les dimensions du caractère, jouant ainsi un rôle central dans le développement de la sagesse pratique, que soulignait Aristote comme étant d’une importance capitale. C’est grâce à ce jugement basé sur le caractère que l’on peut utiliser l’IA efficacement tout en exerçant le jugement ultime associé à la qualité et aux mérites des résultats de l’IA.

En somme, comprendre le caractère révèle que les humains ont encore beaucoup à faire pour le renforcer. Bien que certains aspects de l’IA soient en accord avec le caractère, un grand nombre de lacunes caractérielles demeurent. Ces lacunes dépassent les questions habituelles de justice et d’humanité. Cette vue d’ensemble met en évidence que ce qui nous rend humains repose sur toutes les dimensions du caractère, cultivées au gré de nos expériences de vie. Chaque effort doit être fait pour intégrer le caractère dans les applications IA. Cependant, une plus grande clarté est requise autour des limites de l’IA en matière de caractère. En fin de compte, l’IA représente un outil puissant qui doit être utilisé avec une base solide ancrée dans le jugement fondé sur le caractère. Pour cela, il est impératif de commencer par renforcer notre propre caractère.