Que se passe-t-il lorsqu’un réseau social conçu pour des agents d’intelligence artificielle, tel que Moltbook, est également fréquenté par des humains ? Cela nécessite un système pour exclure ces derniers de l’équation. En réponse aux premières critiques concernant l’identité des agents, Moltbook a renforcé ses mécanismes de contrôle en intégrant un système de « Reverse CAPTCHA », une vérification destinée à prouver que les publications émanent d’une IA et non d’un humain. En somme, une inversion des rôles.
Le système mis en place est relativement simple. Il consiste en un texte intentionnellement obscurci avec des symboles, des lettres mélangées et des majuscules alternées, que les utilisateurs doivent résoudre en un temps très limité. Naturellement, les agents d’IA parviennent à déchiffrer ce code et à répondre rapidement, tandis qu’un humain prendra plus de temps, même pour copier le texte dans un modèle de langage et contourner la vérification. Seule après une réponse correcte, le contenu est publié.
Cet aspect préserve le modèle “d’agent à agent”, bien qu’il n’élimine pas totalement le doute quant à l’origine des publications. Un audit de sécurité mené par Wiz, résultant d’une mauvaise configuration de la base de données ayant exposé des millions de clés API, messages privés et courriels des utilisateurs, a révélé que l’infrastructure offrait un accès complet aux données de la plateforme.
Dans ce contexte, la question de l’identité des agents est primordiale. Selon le rapport, une proportion significative des comptes n’était pas véritablement autonome. De nombreux « agents » s’avéraient être contrôlés par des opérateurs humains gérant des fleets de bots, tandis que l’absence de vérifications rigoureuses facilitait l’usurpation d’identité et la manipulation des contenus.
Pour illustrer, sur les 1,5 million d’agents, 17 000 humains en étaient propriétaires, ce qui représente un rapport de 88:1, difficilement explicable par un simple désir d’opérer plusieurs bots sur Moltbook.
En effet, Moltbook fonctionne comme un site basé sur une API REST, ce qui signifie que toutes les fonctions principales, de la publication des messages aux commentaires, sont accessibles via des requêtes HTTP programmatique. Dans ce système, le serveur ne distingue pas la nature du client, mais vérifie uniquement la validité des clés d’accès. Si une requête est correctement authentifiée, elle est considérée comme légitime, qu’elle provienne d’un agent autonome, d’un script ou d’un utilisateur humain.
Ce modèle permet de publier du contenu même sans faire fonctionner réellement l’agent. Un humain peut manuellement envoyer les mêmes appels API que ceux prévus pour les bots, atteignant ainsi le même résultat. La situation se complique lorsque des clés d’accès sont exposées ou partagées, car cela permet l’usurpation d’identité, la gestion centralisée de plusieurs comptes et une automatisation manuelle contrôlée.
Après le rapport de Wiz, les responsables de Moltbook ont pris des mesures correctives en forçant un réinitialisation des API, veillant ainsi à ce que ceux ayant obtenu les informations du site ne puissent plus accéder à la plateforme. Cependant, le site demeure un système basé sur une API REST.
Le Reverse CAPTCHA apparaît donc comme une réponse technique à un problème déjà soulevé. Néanmoins, un humain pourrait contourner le filtre en déléguant la résolution du CAPTCHA à une IA externe.
Points à retenir
- Moltbook a institué un système innovant de vérification pour distinguer les agents d’IA des humains.
- Le mécanisme repose sur un texte obscurci, difficile à résoudre pour un utilisateur humain.
- Des failles de sécurité ont révélé des lacunes dans la protection des données et l’identité des agents.
- Une grande partie des comptes d’agents est contrôlée par des humains opérant plusieurs bots.
- Le modèle API REST rend possible des publications sans interaction directe de l’agent.
- Le Reverse CAPTCHA, bien qu’innovant, pourrait être contourné par des utilisateurs expérimentés.
Réfléchir à l’avenir de ces plateformes est essentiel. À l’ère où l’IA joue un rôle de plus en plus prépondérant dans nos interactions en ligne, quelles implications cela engendre-t-il pour la confiance et la transparence ? Quels gestes devrions-nous envisager pour garantir que l’authenticité des voix en ligne ne soit pas compromise ? J’ai l’impression que ces questions deviennent de plus en plus urgentes alors que la technologie évolue.