Une récente étude met en lumière le fait que l’intelligence artificielle (IA) facilite grandement la tâche des pirates informatiques malveillants dans l’identification des comptes anonymes sur les réseaux sociaux. Les modèles de langage avancés (LLMs), tels que ceux utilisés par des plateformes comme ChatGPT, ont démontré leur capacité à associer des utilisateurs anonymes à leurs véritables identités sur d’autres plateformes grâce aux informations qu’ils partagent.
Les chercheurs en IA, Simon Lermen et Daniel Paleka, soulignent que les LLMs permettent d’effectuer des attaques de confidentialité sophistiquées à moindre coût, poussant ainsi à une réévaluation fondamentale de ce qui peut être considéré comme privé en ligne.
Dans leur expérience, les chercheurs ont introduit des comptes anonymes dans un système d’IA qui a ensuite collecté toutes les données accessibles. Par exemple, un utilisateur évoquant ses difficultés scolaires tout en promenant son chien Biscuit dans un parc fictif a permis à l’IA de faire le lien avec un compte identifié sur la base de ces détails spécifiques.
Bien que cet exemple soit fictif, les auteurs de l’étude soulignent des situations où des gouvernements pourraient utiliser l’IA pour surveiller des dissidents, ou où des pirates lancent des escroqueries « hautement personnalisées ».
La surveillance par IA constitue un domaine en pleine évolution qui suscite des inquiétudes parmi les scientifiques et les experts en protection de la vie privée. Les LLMs synthétisent des informations sur un individu en ligne, quelque chose que la plupart des gens trouveraient difficile à réaliser manuellement.
Lermen note que des informations sur des membres du public, facilement accessibles en ligne, sont souvent détournées pour des escroqueries, comme le spear-phishing, où un hacker se fait passer pour un ami de confiance afin de convaincre des victimes de cliquer sur un lien malveillant.
Peter Bentley, professeur d’informatique à l’UCL, exprime des inquiétudes quant aux utilisations commerciales de cette technologie, particulièrement lorsqu’elle pourrait être exploitée pour dé-anonymiser des users.
Un autre problème est que les LLMs font parfois des erreurs en liant des comptes, ce qui pourrait entraîner des accusations non fondées contre des individus. Professeur Marc Juárez, expert en cybersécurité à l’Université d’Édimbourg, met en garde contre le fait que ces modèles peuvent utiliser des données publiques au-delà des réseaux sociaux, telles que des dossiers hospitaliers, qui nécessitent un niveau d’anonymisation élevé dans l’ère de l’IA.
Il est important de noter que l’IA ne représente pas une solution miracle contre l’anonymat en ligne. Bien que les LLMs puissent souvent dé-anonymiser des enregistrements, dans de nombreux cas, le volume de correspondances potentielles est trop élevé pour permettre une identification précise.
Les experts s’accordent à dire qu’il est temps de repenser la manière dont les institutions et les individus anonymisent les données à l’ère de l’IA. Lermen suggère que les plateformes limitent l’accès aux données, surveillent les téléchargements automatisés et restreignent les exportations massives de données. Cependant, il est également primordial que les utilisateurs prennent des précautions concernant les informations qu’ils partagent.
Points à retenir
- Les LLMs peuvent mettre à mal l’anonymat en ligne en identifiant des utilisateurs selon leurs publications.
- Les escroqueries personnalisées représentent une menace croissante, mettant la sécurité des utilisateurs en péril.
- Le risque d’accusations erronées en raison d’erreurs d’association de comptes soulève des inquiétudes éthiques.
- La protection des données doit être repensée dans le contexte des nouvelles technologies.
- Des mesures préventives peuvent être mises en place par les plateformes et les utilisateurs pour mieux sécuriser leurs informations.
En tant que passionné par les enjeux de la vie privée à l’ère numérique, je ne peux m’empêcher de m’interroger sur l’avenir des interactions en ligne. Nous vivons une période charnière où nos données personnelles sont à la fois précieuses et vulnérables. Comment établir un équilibre entre l’innovation technologique et la protection de notre identité ? Cette question mérite d’être discutée et je suis impatient de connaître vos réflexions sur le sujet.