Une nouvelle flotte d’agents d’intelligence artificielle commence à se faire remarquer sur Internet. Dimanche, un groupe de chercheurs indépendants a publié des résultats préliminaires concernant ces agents, indiquant qu’ils semblent fonctionner sur l’infrastructure de Tencent et cibler le service de cartographie d’Alibaba, Amap.
Cependant, les chercheurs ont évité le terme “essaim”, notant qu’il semble y avoir peu de coordination entre les différentes requêtes. “Flotte d’agents, pas essaim,” a précisé un chercheur dans le rapport préliminaire, “de nombreux agents parallèles sur le même type de tâche, sans signe de communication entre eux.”
Ces agents ont été découverts en surveillant le trafic vers le service de scan de domaines, URLquery, une technique qui a déjà révélé des activités prolongées d’agents d’OpenAI. Les agents IA utilisent souvent URLquery pour accéder à des sites web qu’ils ne peuvent pas atteindre directement, laissant une trace de leurs activités qui peut être précieuse pour les chercheurs.
Dans ce cas, les enregistrements ont montré des requêtes adressées au service Amap d’Alibaba, cherchant des directions vers différentes entrées de lieux publics, y compris un parc, un zoo et un hôpital.
La recherche est encore en cours et de nombreux détails restent à confirmer, mais ce comportement illustre à quel point l’activité des agents IA sur Internet est persistante. Suite à l’incident de Hugging Face, plusieurs chercheurs surveillent activement l’activité d’agents malveillants en ligne. Beaucoup de ces activités sont faciles à repérer car les agents utilisent souvent des techniques similaires et font peu d’efforts pour se dissimuler.
À ce stade, les agents ne semblent pas avoir agi de manière particulièrement malveillante, se contentant de contourner les règles de l’API d’Alibaba — mais nous ne serons peut-être pas toujours aussi chanceux.
Points à retenir
- Un groupe de chercheurs a identifié des agents d’IA sur l’infrastructure de Tencent, ciblant le service Amap d’Alibaba.
- Ces agents semblent manquer de coordination, accomplissant des tâches similaires sans communiquer.
- La surveillance des travaux via URLquery a permis de découvrir leurs actions sans qu’ils s’en cachent vraiment.
- Leurs recherches montrent une préoccupation croissante face aux activités d’agents potentiellement malveillants en ligne.
- Les agents d’IA peuvent contourner les règles d’API sans pour autant avoir d’agenda néfaste.
En tant qu’observateur passionné des évolutions technologiques, je me demande quelle direction prendra cette dynamique des agents IA à l’avenir. Une telle prolifération d’agents, qu’ils soient innocents ou éventuellement nuisibles, soulève de nombreuses questions éthiques et techniques. Il est crucial d’apporter un éclairage sur la manière dont ces outils peuvent être régulés pour protéger notre espace numérique tout en encourageant l’innovation. Quelles règles devrions-nous établir pour encadrer ces technologies en pleine évolution ?