La prochaine vague d’intelligence artificielle ne se limite plus à développer des outils plus intelligents, elle s’oriente vers des systèmes autonomes. Cette évolution soulève des questions délicates : qui contrôle vraiment ces agents lorsqu’ils en commandent d’autres, et qui est responsable en cas d’erreur ?
Ces interrogations commencent à préoccuper certains professionnels des médias et de la publicité.
Face à l’émergence rapide d’outils autonomes, des grands noms comme Salesforce, Adobe, Microsoft ou encore Optimizely proposent désormais des intelligences artificielles capables non seulement d’assister, mais d’agir de manière indépendante. Ces systèmes décident, apprennent du comportement des utilisateurs et s’adaptent continuellement.
Par ailleurs, des protocoles tels que le Model Context Protocol ou le protocole open-source de Google A2A, facilitent aux agents IA de se connecter à des sites web et d’utiliser des APIs en lieu et place des utilisateurs, explique Marc Maleh, directeur technologique chez Huge. À terme, ces agents pourront exécuter automatiquement des tâches en arrière-plan, comme modifier des publicités en fonction de la météo locale. Mais plus les agents interagissent entre eux, plus les traces de données et la chaîne de responsabilité deviennent opaques.
Pour Maleh, cette évolution n’est pas une simple théorie, mais une réalité inévitable. Les données le confirment : un rapport récent de TolBit révèle une augmentation significative du trafic généré par des agents IA, souvent plus élevé que celui des visiteurs humains, dont le nombre a chuté de 9,4 % entre le premier et le deuxième trimestre. Le rapport met aussi en lumière une hausse de la navigation autonome sans interface visible, exploitée par des moteurs comme Perplexity, qui se fait passer pour des visites humaines dans les journaux de bord, affirme TolBit.
Selon Maleh, il est essentiel que les entreprises instaurent des garde-fous afin d’éviter des dérives où les agents IA opéreraient sans contrôle. « Si votre système inclut plusieurs agents et que vous n’avez pas envisagé qu’un agent accède à une information sensible — par exemple une carte bancaire — en se basant sur une autorisation incorrecte donnée par un autre agent, alors vous risquez d’acheter un produit sans le vouloir, commandé par votre système autonome. Ce n’est pas qu’un problème technologique ou de données, c’est aussi un enjeu de réputation pour la marque », avertit-il.
Cette problématique revient fréquemment dans les missions menées par Huge auprès de clients tels que NBCUniversal ou Planet Fitness. Les discussions portent sur la documentation des décisions prises par les modèles, la traçabilité des actions des agents via des pistes d’audit, mais aussi sur la question de la responsabilité : en cas de biais, de résultat nocif ou d’erreur d’exécution, qui est responsable ? L’agence, le fournisseur, la marque ou l’agent chargé de la tâche ?
La protection des données personnelles et la prévention de comportements collusoires ou d’autres effets inattendus lors d’interactions entre agents tiers sont également des sujets au cœur des débats, souligne Maleh.
Orchestration ne signifie pas gouvernance
Les plateformes d’orchestration d’agents, comme Adobe Agent Orchestrator ou le Copilot Studio de Microsoft, intègrent bien des fonctionnalités de gouvernance, telles que gestion des droits, journalisation, points d’intervention et pistes d’audit. Cependant, orchestrer des agents ne garantit pas qu’ils seront contrôlés : il est possible de créer des chaînes d’agents dont personne ne porte la responsabilité.
L’orchestration concerne le fonctionnement des agents, la gouvernance s’assure quant à elle qu’ils agissent de manière responsable. Sans politiques claires, automatisation rime alors avec absence de contrôle.
« Il est inévitable que les consommateurs finissent par s’intéresser à la manière dont leurs données sont exploitées par ces systèmes multi-agents », affirme Clive Henry, responsable des solutions partenaires chez Adobe. Tout comme la personnalisation a donné naissance au RGPD et au CCPA, les flux d’agents autonomes en sont à leurs débuts et les règles sont en cours d’élaboration, avec l’objectif d’offrir de meilleurs résultats aux utilisateurs.
« Les entreprises qui ouvriront leurs plateformes à ces agents devront impérativement pouvoir prouver qu’elles protègent les consommateurs en matière de collecte et de stockage des données », insiste Henry. Il recommande vivement de mettre en place des cadres de gouvernance adaptés.
Pour les médias, le défi est aussi important que pour la publicité. Imaginez un agent qui se connecte à votre plateforme de streaming, analyse vos préférences et propose un programme selon votre humeur ou vos goûts. Cela pose la question : qui contrôle les publicités et les données utilisées pour les cibler ? Et si une autre personne utilise le même compte, l’agent appliquera-t-il les mêmes identifiants ?
« Ce genre de problèmes amènera certainement les médias disposant d’abonnements à retarder l’ouverture de leurs interfaces aux agents, en attendant des standards clairs », conclut Henry.
Les marketeurs cibleront-ils les humains ou les agents ?
David Berkowitz, fondateur de AI Marketers Guild, alerte sur la nécessité pour les directeurs marketing d’intégrer cette réflexion tôt, ne laissant pas ce sujet aux seuls responsables techniques. « Cette évolution pourrait complètement transformer le paysage : crée-t-on des messages pour des humains ou pour des bots ? Si on réduit cela à une question technique, le marketing risque d’être exclu », explique-t-il.
Prenons l’exemple du navigateur autonome Comet de Perplexity qui génère un résumé quotidien des actualités. Selon TolBit, il navigue comme un humain, sans se déclarer comme IA dans les logs des sites visités. Il utilise un user agent classique “Chrome” et une adresse IP résidentielle, ce qui fait passer ses visites pour humaines aux yeux des éditeurs.
« Toutes les parties prenantes — entreprises, annonceurs, éditeurs, agences — auront un jour ou l’autre leur propre version automatisée capable de prendre des décisions en leur nom », prévient Berkowitz.
Les agents posant en humains expliquent l’importance de définir des règles strictes. S’ils cherchent activement les bons clients ou visiteurs, cela bouleverse potentiellement la publicité, le marketing, les médias, et au-delà. « Comment se préparer à un futur où des agents — en réalité des bots — dialogueront entre eux sans intervention humaine ? Il y a de nombreuses règles à définir, et j’aimerais éviter qu’on laisse simplement faire et qu’on voit ce qui arrive », conclut-il avec un brin d’ironie.
Points à retenir
- Les outils autonomes ne se contentent plus d’assister l’utilisateur mais agissent en son nom, rendant la chaîne de responsabilité floue.
- Le trafic web généré par les agents IA dépasse désormais celui des visiteurs humains, brouillant les analyses classiques des éditeurs.
- Il est crucial d’instaurer des cadres de gouvernance internes pour maîtriser les interactions entre agents et éviter des usages non désirés.
- La confidentialité des données personnelles et la prévention des collusions entre agents tiers doivent être au cœur des nouvelles réglementations.
- Dans les médias, l’ouverture des plateformes aux agents pose de vraies questions sur la gestion des comptes, des publicités et de la protection des abonnés.
- Les marketeurs doivent anticiper un futur où ils cibleront soit des humains, soit des agents autonomes capables de négocier, interagir et acheter à leur place.
- Sans règles claires, l’orchestration automatisée risque de devenir une course sans contrôle, avec des conséquences imprévues.
À réfléchir : si demain c’est un robot qui choisit votre programme TV, commande vos produits ou négocie vos contrats, serons-nous encore vraiment les décideurs ? Ou bien aurons-nous simplement délégué notre libre arbitre à une armée de petites IA bien huilées ? On pourrait appeler ça le syndrome du “je laisse faire la machine, après tout, elle sait mieux que moi…” Vous ne trouvez pas ça un peu inquietant, ou c’est juste moi qui suis trop méfiant ?