- Vulnérabilité de ChatGPT permet l’exfiltration de données sans interaction utilisateur
- ShadowLeak contourne totalement la sécurité des points d’accès traditionnels
- Des millions d’utilisateurs professionnels pourraient être exposés à cause des exploits ShadowLeak
Les entreprises intègrent de plus en plus des outils d’IA, tels que l’agent de recherche approfondie de ChatGPT, pour analyser des e-mails, des données CRM et des rapports internes afin de prendre des décisions stratégiques, soulignent les experts.
Bien que ces plateformes offrent automatisation et efficacité, elles posent également de nouveaux défis en matière de sécurité, surtout lorsqu’il s’agit d’informations sensibles.
Radware a récemment dévoilé une vulnérabilité sans clic dans l’agent de recherche approfondie de ChatGPT, baptisée “ShadowLeak”. Contrairement aux vulnérabilités traditionnelles, celle-ci exfiltre des données sensibles de manière discrète.
ShadowLeak : une exploitation serveur-side sans clic
Cette vulnérabilité permet aux attaquants d’exfiltrer des données sensibles directement depuis les serveurs d’OpenAI, sans aucune interaction de la part des utilisateurs.
« C’est l’attaque sans clic par excellence », a déclaré David Aviv, directeur technique de Radware.
« Aucune action utilisateur n’est requise, aucun indice visible, et aucune manière pour les victimes de savoir que leurs données ont été compromises. Tout se passe en coulisses grâce aux actions autonomes sur les serveurs cloud d’OpenAI. »
ShadowLeak fonctionne également indépendamment des points d’accès ou des réseaux, rendant la détection extrêmement difficile pour les équipes de sécurité des entreprises.
Les chercheurs ont démontré qu’il suffisait d’envoyer un e-mail avec des instructions cachées pour que l’agent de recherche profonde fuite des informations de manière autonome.
Pascal Geenens, directeur de l’intelligence des menaces cybernétiques chez Radware, a expliqué que « les entreprises qui adoptent l’IA ne peuvent pas se fier uniquement aux protections intégrées pour prévenir les abus.
« Les flux de travail pilotés par l’IA peuvent être manipulés de manière imprévue, et ces vecteurs d’attaque contournent souvent les capacités de visibilité et de détection des solutions de sécurité traditionnelles. »
Cette vulnérabilité représente la première exfiltration de données purement serveur-side et sans clic, ne laissant presque aucune trace du point de vue des entreprises.
Étant donné que ChatGPT compte plus de 5 millions d’utilisateurs professionnels payants, le potentiel d’exposition est significatif.
Un suivi humain et un contrôle d’accès rigoureux restent essentiels lorsque des données sensibles sont connectées à des agents d’IA autonomes.
Par conséquent, les organisations qui adoptent l’IA doivent aborder ces outils avec précaution, évaluer continuellement les lacunes en matière de sécurité, et combiner technologie et pratiques opérationnelles éclairées.
Comment rester en sécurité
- Mettre en place des défenses de cybersécurité multi-niveaux pour se protéger contre divers types d’attaques.
- Surveiller régulièrement les flux de travail pilotés par l’IA pour détecter une activité inhabituelle ou des fuites de données potentielles.
- Déployer des solutions antivirus solides sur l’ensemble des systèmes pour se protéger contre les attaques de malware traditionnelles.
- Maintenir une protection robuste contre les ransomwares pour protéger les informations sensibles contre les menaces de déplacement latéral.
- Imposer des contrôles d’accès stricts et des permissions d’utilisateur pour les outils d’IA interagissant avec des données sensibles.
- Assurer une surveillance humaine lorsque des agents d’IA autonomes accèdent ou traitent des informations sensibles.
- Mettre en œuvre la journalisation et l’audit des activités des agents d’IA pour détecter les anomalies rapidement.
- Intégrer des outils d’IA supplémentaires pour la détection d’anomalies et les alertes de sécurité automatisées.
- Former les employés aux menaces liées à l’IA et aux risques des flux de travail des agents autonomes.
- Combiner les défenses logicielles, les meilleures pratiques opérationnelles et une vigilance continue pour réduire l’exposition.
Points à retenir
- L’importance cruciale de la surveillance humaine dans l’utilisation des outils d’IA.
- La nécessité d’une approche systématique pour sécuriser les flux de travail alimentés par l’IA.
- La possibilité d’exploitation inattendue des technologies d’IA, mettant en avant le besoin de vigilance.
- La vigilance collective des équipes de sécurité pour anticiper de nouvelles menaces.
En somme, alors que les entreprises adoptent l’IA pour optimiser leur fonctionnement, il est essentiel qu’elles conçoivent des stratégies de sécurité adaptées pour atténuer les risques potentiels. La discussion sur la sécurité de l’IA devra se poursuivre, car les outils et les menaces évoluent continuellement. Comment les entreprises peuvent-elles s’assurer de rester un pas en avant dans cette dynamique?