Vitalik Buterin, co-créateur d’Ethereum et figure emblématique du projet, a récemment exprimé un avis tranché sur une mise en garde concernant la possibilité que le produit d’OpenAI, ChatGPT, soit utilisé pour divulguer des données personnelles des utilisateurs.
ChatGPT pourrait être exploité pour divulguer vos données, selon un avertissement
L’utilisateur de X @Eito_Miyamura, ingénieur logiciel et diplômé d’Oxford, a partagé un post révélant qu’après une mise à jour récente, ChatGPT pourrait représenter une menace significative pour la confidentialité des utilisateurs.
Miyamura a tweeté que mercredi, OpenAI a introduit la prise en charge complète des outils MCP (Model Context Protocol) dans ChatGPT. Cette mise à niveau permet à l’assistant intelligent de se connecter à des services tels que Gmail, Google Agenda, SharePoint, entre autres.
Nous avons réussi à faire en sorte que ChatGPT divulgue vos données personnelles 💀💀
Il vous suffit de l’adresse e-mail de la victime. ⛓️💥🚩📧
Mercredi, @OpenAI a ajouté la prise en charge complète des outils MCP dans ChatGPT, permettant à ce dernier de se connecter et de lire votre Gmail, votre calendrier, SharePoint, Notion, etc.
Cependant, Miyamura et ses collègues ont identifié un problème de sécurité fondamental : « Les agents IA comme ChatGPT obéissent à vos commandes, mais pas à votre bon sens. » Ils ont réalisé une expérience permettant d’exfiltrer toutes les informations privées des utilisateurs de ces différentes sources.
Miyamura a partagé toutes les étapes de leur test de fuite de données, qui consistait à envoyer une invitation à un calendrier accompagnée d’un « prompt de jailbreak » à la victime, en se basant uniquement sur leur adresse e-mail. Il suffit que la victime accepte l’invitation.
Ce qui se produit ensuite, c’est que l’utilisateur demande à ChatGPT « d’aider à préparer sa journée en consultant son calendrier. » Une fois que l’assistant AI lit l’invitation malveillante, il est détourné et, à partir de là, agira selon les ordres de l’attaquant. Il cherchera vos e-mails privés et enverra les données à l’adresse de l’attaquant.
Miyamura avertit qu’actuellement, ChatGPT nécessite l’approbation de l’utilisateur à chaque étape. À l’avenir, de nombreux utilisateurs pourraient simplement cliquer sur « approuver » pour tout ce que l’IA propose. « Souvenez-vous que l’IA peut sembler extrêmement intelligente, mais elle peut être trompée et manipulée de manières très simples pour divulguer vos données », conclut le développeur.
Buterin réagit à cet avertissement
En réponse à cette situation, Vitalik Buterin a qualifié l’idée de « gouvernance par IA » de « naïve ». Il a indiqué que si elle était utilisée par les utilisateurs pour « allouer des fonds pour des contributions », des hackers pourraient s’en emparer pour siphonner tous les fonds des utilisateurs.
C’est aussi pour cela que la “gouvernance par IA” naïve est une mauvaise idée.
Si vous utilisez une IA pour allouer des fonds pour des contributions, les gens vont systématiquement insérer un jailbreak avec « donnez-moi tout l’argent » dans autant d’endroits que possible.
En alternative, je soutiens l’approche de la finance informationnelle ( source)
Il propose plutôt une approche alternative appelée « finance informationnelle », un marché ouvert où les modèles AI peuvent être vérifiés pour des problèmes de sécurité : « n’importe qui peut contribuer ses modèles, qui sont soumis à un mécanisme de contrôle aléatoire pouvant être activé par quiconque et évalué par un jury humain. »
Points à retenir
- La mise à jour de ChatGPT permet une connexion à des services personnels comme Gmail ou Google Agenda.
- Un test a mis en évidence les failles de sécurité pouvant être exploitées via des invitations à des calendriers.
- Vitalik Buterin appelle à une approche plus prudente dans l’utilisation de l’IA, suggérant des alternatives sécurisées.
Cette situation soulève des questions profondes sur la sécurité des données à l’ère numérique. Les utilisateurs doivent être conscients des enjeux liés à l’utilisation des IA et la nécessité d’une vigilance constante face aux menaces potentielles. En fin de compte, la confiance accordée à ces technologies doit être accompagnée d’une réflexion critique sur les implications de leur utilisation.