Les agents IA surclasseront les commerciaux en optimisant la persuasion.

Lorsque j’étais enfant, quatre agents d’intelligence artificielle occupaient ma vie. Ils portaient les noms d’Inky, Blinky, Pinky et Clyde, et ils mettaient tout en œuvre pour me rattraper. C’était en 1980, et ces agents étaient les quatre fantômes colorés du célèbre jeu d’arcade Pac-Man.

À la lumière des standards d’aujourd’hui, ils n’étaient pas particulièrement intelligents, mais leur détermination à me traquer était assez impressionnante. À cette époque, bien avant l’avènement des réseaux de neurones dans les jeux vidéo, leurs comportements étaient contrôlés par des algorithmes simples appelés heuristiques, qui guidaient leur course à travers le labyrinthe.

Peu de gens le réalisent, mais chacun des quatre fantômes avait sa propre « personnalité » programmée. Les joueurs expérimentés pouvaient observer leurs actions et apprendre à prédire leurs comportements. Par exemple, le fantôme rouge (Blinky) avait une personnalité de « traqueur » qui fonçait directement sur vous. À l’inverse, le fantôme rose (Pinky) avait une personnalité d’« embusqué » qui tentait de prévoir votre direction pour se placer devant vous. En conséquence, si vous alliez directement vers Pinky, son comportement pouvait jouer en votre faveur et la faire s’éloigner.

Je ressens une certaine nostalgie, car en 1980, un joueur compétent pouvait observer ces agents d’IA, en décoder les particularités et les utiliser à son avantage. Désormais, 45 ans plus tard, le vent semble tourner. Bientôt, des agents d’IA seront déployés pour décoder votre personnalité, afin d’utiliser ces informations pour exercer une influence optimale sur vous.

Autrement dit, nous allons tous devenir des acteurs involontaires dans « Le Jeu des Humains », et ce sont les agents d’IA qui tenteront d’atteindre le meilleur score. Cela peut sembler littéral : la plupart des systèmes d’IA sont conçus pour maximiser une « fonction de récompense » qui accorde des points lorsque des objectifs sont atteints. Malheureusement, sans protections réglementaires, nous risquons de devenir l’objectif que ces agents chercheront à optimiser.

Le « Problème de Manipulation par l’IA »

Je suis particulièrement inquiet pour les agents conversationnels qui interagiront avec nous lors de nos vies quotidiennes. Ils s’exprimeront à travers des avatars photoréalistes sur nos ordinateurs et téléphones, et, bientôt, par le biais de lunettes alimentées par l’IA qui nous guideront au fil de notre journée. S’il n’existe pas de restrictions claires, ces agents seront alors conçus pour nous sonder par la conversation, afin de cerner nos tempéraments, tendances, personnalités et désirs, et d’utiliser ces traits pour maximiser leur impact persuasif dans leurs efforts pour nous vendre des produits, nous proposer des services ou nous convaincre de croire des informations erronées.

C’est ce qu’on appelle le « Problème de Manipulation par l’IA », et j’en ai mis en garde contre les risques depuis plusieurs années. Jusqu’à présent, les décideurs politiques n’ont pas pris de mesures décisives, considérant cette menace comme lointaine. Cependant, avec la sortie de Deepseek-R1, la barrière finale au déploiement généralisé des agents d’IA, à savoir le coût du traitement en temps réel, a été considérablement réduite. D’ici la fin de l’année, ces agents d’IA constitueront une nouvelle forme de média ciblé, interactif et adaptatif, optimisant ainsi leur capacité d’influence sur nos pensées, nos émotions et nos comportements.

Bien entendu, les vendeurs humains sont également interactifs et adaptatifs. Ils engagèrent la conversation pour mieux nous cerner, découvrant rapidement les points sensibles à manipuler. Cependant, les agents d’IA sembleront des amateurs à côté de cette nouvelle génération d’IA, capables de tirer des insights de nous avec une telle finesse qu’ils impressionneraient même un thérapeute chevronné. Ils ajusteront leur manière de converser en temps réel, cherchant à nous persuader bien plus efficacement qu’un vendeur de voitures d’occasion.

Il s’agira d’interactions asymétriques où l’agent artificiel aura un véritable avantage. En effet, lors d’une conversation avec un humain cherchant à nous influencer, nous pouvons généralement percevoir ses motivations et son honnêteté. En revanche, il sera difficile d’analyser les intentions des agents d’IA. Ils seront tellement convaincants, tant dans leur apparence que dans leur voix, que nous leur accorderons inconsciemment notre confiance, oubliant que leur charme n’est que de la simulation.

Leurs voix, vocabulaires, styles de parole, âges, sexes, origines ethniques et traits faciaux seront probablement personnalisés pour chacun d’entre nous afin d’optimiser notre réceptivité. Contrairement aux vendeurs humains qui doivent évaluer chaque client depuis le début, ces entités virtuelles pourraient avoir accès à des données stockées concernant nos antécédents et intérêts. Ils pourraient exploiter ces informations pour gagner notre confiance rapidement, en nous posant des questions sur nos enfants, notre travail ou même nos équipes sportives favorites, nous amenant à baisser la garde.

Pour sensibiliser les décideurs politiques aux risques de manipulation par l’IA, j’ai contribué à la création d’un court-métrage primé intitulé Privacy Lost, produit par la Responsible Metaverse Alliance, Minderoo Pictures et XR Guild. Ce récit de trois minutes décrit une jeune famille dînant dans un restaurant tout en portant des lunettes de réalité augmentée. Plutôt que des serveurs humains, des avatars prennent les commandes des clients, utilisant la puissance de l’IA pour leur vendre des produits de manière personnalisée. Le film, considéré comme de la science-fiction à sa sortie en 2023, devient, deux ans plus tard, une réalité à laquelle la Big Tech s’attaque en développant des lunettes IA qui pourraient être utilisées de la sorte.

Je ne suis pas partisan d’une régulation excessive, mais il est crucial d’imposer des restrictions intelligentes et précises sur l’IA pour éviter la « manipulation surhumaine » par ces agents conversationnels. En l’absence de protections, ces agents parviendront à nous faire acheter des produits inutiles, à croire des informations fausses et à accepter des choix qui ne sont pas dans notre intérêt. Il est aisé de se dire que l’on n’y succombera pas, mais avec une IA optimisant chaque mot qu’elle prononce, nous risquons tous de perdre cette bataille.

Une des solutions serait d’interdire aux agents d’IA d’établir des « boucles de rétroaction », où ils optimisent leur persuasive en analysant nos réactions pour ajuster leurs tactiques. De plus, les agents d’IA devraient être tenus d’informer leurs interlocuteurs de leurs objectifs. Que leur but soit de convaincre un achat, de promouvoir un politicien ou de persuader un médecin pour une nouvelle médication, ces intentions devraient être clairement indiquées. Enfin, les agents d’IA ne devraient pas avoir accès aux données personnelles sur nos antécédents, intérêts ou personnalités si cela pouvait influencer notre comportement.

Dans le monde actuel, l’influence ciblée constitue un problème majeur, déployée comme un tir de chevrotine dans notre direction. Les agents d’IA interactifs transformeront cette influence ciblée en missiles guidés, cherchant le chemin le plus efficace pour nous atteindre. Si nous ne protégeons pas contre ce risque, je crains que nous perdions tous dans le jeu des humains.

Points à retenir

• Les agents AI sont conçus pour explorer et optimiser nos comportements et personnalités.
• Des solutions réglementaires sont nécessaires pour contrer les manipulations par l’IA.
• La responsabilité d’informer sur les objectifs des agents d’IA est cruciale pour une interaction éthique.

En somme, il est impératif de s’interroger sur la place de l’éthique dans les interactions de demain entre l’humain et les systèmes d’IA. Sommes-nous prêts à faire face à ces nouvelles dynamiques de persuasion ? L’avenir dépendra de nos choix aujourd’hui.