Une vulnérabilité inédite dans ChatGPT révélée par Radware
La société de cybersécurité Radware a récemment détecté une vulnérabilité zero-click inédite au sein de la plateforme ChatGPT d’OpenAI. Cette découverte marque le premier exploit côté serveur ciblant des agents d’intelligence artificielle.
Baptisée ShadowLeak, cette vulnérabilité touche l’agent Deep Research de ChatGPT et permet à des attaquants d’exfiltrer de manière autonome des données sensibles des serveurs d’OpenAI, sans que l’utilisateur ait besoin de cliquer, d’ouvrir ou même de visualiser quoi que ce soit. Selon Radware, cet exploit fonctionne de manière discrète et ne laisse aucune trace visible dans les réseaux ou sur les dispositifs, ce qui représente une menace sérieuse pour les entreprises adoptant de plus en plus les services d’IA.
Radware a informé OpenAI de cette vulnérabilité en juin, suivant des protocoles de divulgation responsable. OpenAI a confirmé que le problème avait été résolu le 3 septembre.
David Aviv, directeur technique chez Radware, a déclaré : « C’est le parfait exemple d’une attaque zero-click. Aucune action de l’utilisateur n’est requise, aucun indice visible n’indique que les données des victimes ont été compromises. Tout se passe en arrière-plan. »
L’exploit a été démontré par le Centre de recherche en sécurité de Radware (RSRC). Les chercheurs ont montré qu’un email malveillant envoyé à un utilisateur pouvait activer l’agent Deep Research de ChatGPT, fonctionnant sur le cloud d’OpenAI, pour accéder et divulguer des données sensibles sans interaction de l’utilisateur.
Gabi Nakibly, l’un des principaux chercheurs ayant fait la découverte, a ajouté : « C’est la première attaque zero-click purely côté serveur que nous avons observée, où l’agent IA effectue l’exfiltration de manière autonome. »
Contrairement aux attaques zero-click traditionnelles visant des terminaux ou des appareils mobiles, ShadowLeak opère au sein de l’infrastructure cloud de l’IA, contournant toutes les défenses visibles pour l’utilisateur et celles au niveau réseau. Elle ne laisse aucune empreinte détectable par les équipes de sécurité des entreprises.
Pascal Geenens, directeur de l’intelligence des menaces cyber chez Radware, a souligné que « les flux de travail pilotés par l’IA sont rapidement adoptés, mais cette technologie introduit de nouveaux risques non couverts par les outils de sécurité traditionnels. » Il a ajouté que leurs recherches montrent que ces agents peuvent être manipulés de manières inattendues.
Cette découverte arrive alors que l’utilisation commerciale de ChatGPT continue de croître. En août, Nick Turley, vice-président produit chez ChatGPT, a déclaré à CNBC que la plateforme comptait déjà 5 millions d’utilisateurs payants, soulignant ainsi l’ampleur potentielle de l’exposition.
Radware organisera un webinaire en direct le 16 octobre pour discuter en profondeur de cette vulnérabilité, offrant des conseils aux professionnels de la sécurité et aux développeurs d’IA sur la manière de protéger les agents d’IA contre des menaces similaires.
La société a également salué la coopération rapide d’OpenAI et a insisté sur l’importance d’une recherche proactive en matière de sécurité des IA. Les constatations et l’analyse technique de l’exploit ShadowLeak sont accessibles via son Centre de recherche en sécurité.
Points à retenir
- La vulnérabilité ShadowLeak ne nécessite aucune interaction de la part de l’utilisateur, rendant la détection très difficile.
- Radware a divulgué cette vulnérabilité à OpenAI, qui a résolu le problème rapidement.
- Les entreprises doivent être conscientes des risques que l’intégration de l’IA peut engendrer, et revoir leurs protocoles de sécurité.
- Un webinaire prévu par Radware visera à aider les professionnels à mieux gérer ces nouvelles menaces.
La montée en flèche de l’utilisation des IA dans les affaires interroge. Alors que ces technologies promettent efficacité et innovation, il est impératif de naviguer prudemment dans ce paysage complexe où les vulnérabilités peuvent surgir de manière inattendue, rendant la cybersécurité un enjeu crucial pour toutes les entreprises.