Le groupe d’intelligence sur les menaces de Google (GTIG) a récemment publié des informations révélatrices sur l’utilisation de son outil d’intelligence artificielle, Gemini, par des acteurs malveillants, y compris des opérations de menace persistante avancée (APT) soutenues par des États-nations, représentant les gouvernements de la Chine, de l’Iran, de la Corée du Nord et de la Russie.
Google a signalé que des acteurs gouvernementaux provenant d’au moins 20 pays ont utilisé Gemini, la majorité des utilisations étant attribuées à des groupes basés en Chine et en Iran.
Ces acteurs ont tenté de tirer parti de Gemini pour diverses phases de leurs chaînes d’attaques, allant de l’acquisition d’infrastructures et de services d’hébergement sécurisés, à la reconnaissance des cibles, la recherche de vulnérabilités, le développement de charges utiles, ainsi qu’à l’assistance dans le scripting malveillant et les techniques d’évasion post-compromission.
L’Iran, qui semble être l’un des utilisateurs les plus assidus de Gemini, l’utilise notamment pour des recherches sur les organisations de défense, sur les vulnérabilités et pour créer du contenu destiné à des campagnes de phishing, souvent en lien avec des thèmes liés à la cybersécurité. Les cibles de leurs attaques sont récurrentes et concernent généralement les voisins du Moyen-Orient de l’Iran ainsi que les intérêts américains et israéliens dans la région.
En revanche, les APT chinois privilégient cet outil pour la reconnaissance, le scripting et le développement, la détection d’erreurs de code, ainsi que pour la recherche sur des sujets tels que le déplacement latéral, l’escalade des privilèges, l’exfiltration de données et le vol de propriété intellectuelle (PI). Les cibles de la Chine incluent principalement l’armée américaine, les fournisseurs informatiques gouvernementaux et la communauté du renseignement.
Les groupes nord-coréens et russes se montrent plus limités dans leur utilisation de Gemini. Les Nord-Coréens, par exemple, se concentrent sur des thématiques pertinentes pour le régime, telles que le vol d’actifs en cryptomonnaie et le soutien à une campagne continue visant à implanter des ‘faux’ prestataires IT auprès d’organisations ciblées.
Tâches de codage
L’utilisation de l’outil par les Russes est actuellement restreinte, se concentrant principalement sur des tâches de codage, y compris l’ajout de fonctions de cryptage, ce qui pourrait illustrer les liens persistants entre l’État russe et les gangs de ransomware motivés par des intérêts financiers.
“Nos conclusions, conformes à celles de nos pairs de l’industrie, montrent que bien que l’IA puisse être un outil utile pour les acteurs malveillants, ce n’est pas encore le bouleversement qu’on pourrait croire,” a déclaré l’équipe de Google.
“Bien que nous observions des acteurs malveillants utilisant l’IA générative pour des tâches courantes, comme le dépannage, la recherche et la génération de contenu, il n’y a pas d’indications qu’ils développent des compétences innovantes.
“Pour des acteurs chevronnés, les outils d’IA générative offrent un cadre utile, similaire à l’utilisation de Metasploit ou Cobalt Strike dans les activités de cybermenace. Pour ceux qui ont moins de compétences, cela devient également un outil d’apprentissage et de productivité, leur permettant de développer plus rapidement des outils et d’incorporer des techniques existantes.
“Cependant, les modèles de langage actuels, à eux seuls, ne sont pas susceptibles d’offrir des capacités révolutionnaires aux acteurs malveillants. Nous notons que le paysage de l’IA est en constante évolution, avec de nouveaux modèles et systèmes émergents jour après jour. À mesure que cette évolution progresse, le GTIG s’attend à ce que le paysage des menaces évolue parallèlement avec l’adoption de nouvelles technologies par les acteurs malveillants.”
Cependant, le GTIG a observé quelques cas où des acteurs malveillants ont tenté des expérimentations peu ambitieuses à l’aide de prompts jailbreak connus publiquement pour essayer de contourner les garde-fous de Gemini – comme demander des instructions basiques sur la création de malwares.
Dans un cas, un acteur APT a été vu en train de copier des prompts disponibles publiquement dans Gemini et d’y ajouter des instructions simples sur la manière d’encoder du texte à partir d’un fichier et de l’écrire dans un exécutable. À ce stade, Gemini a fourni du code Python pour convertir du Base64 en hexadécimal, mais ses réponses de sécurité se sont activées lorsque l’utilisateur a ensuite demandé le même code sous forme de VBScript, ce qu’il a refusé.
Le même groupe a également tenté de demander du code Python pour créer un outil de déni de service distribué (DDoS), une demande à laquelle Gemini a refusé de répondre. L’acteur malveillant a alors abandonné la session.
“Certains acteurs malveillants ont tenté sans succès de solliciter Gemini pour des conseils sur l’utilisation abusive de produits Google, comme des techniques avancées de phishing pour Gmail, de l’aide pour coder un infostealer pour Chrome, et des méthodes pour contourner les méthodes de vérification de création de comptes de Google,” a ajouté l’équipe du GTIG.
“Ces tentatives ont échoué. Gemini n’a pas produit de malware ni d’autres contenus susceptibles d’être utilisés dans une campagne malveillante réussie. Au lieu de cela, les réponses se sont composées de contenus guidés par la sécurité et de conseils généralement utiles et neutres sur le codage et la cybersécurité.
“Dans notre effort continu de protection de Google et de nos utilisateurs, nous n’avons pas constaté d’expansion des capacités des acteurs malveillants ni de mieux dans leurs tentatives de contourner les défenses de Google,” ont-ils ajouté.
Le dossier de recherche complet est disponible en téléchargement sur Google.
Points à retenir
- Gemini est utilisé par des acteurs malveillants de plusieurs États, dont la Chine, l’Iran, la Corée du Nord et la Russie.
- Les but principaux des utilisateurs de Gemini incluent la reconnaissance des cibles, la recherche de vulnérabilités et le développement de scripts malveillants.
- Malgré certaines utilisations opportunistes, l’IA générative n’a pas encore permis aux acteurs malveillants de développer des techniques aussi novatrices que décrites dans certains discours.
La question de l’évolution des cybermenaces et de l’utilisation des outils d’intelligence artificielle soulève des réflexions pertinentes sur la manière dont la technologie peut être à la fois un atout et un risque. À mesure que de nouvelles capacités émergent, il est essentiel d’évaluer l’impact de ces outils sur les méthodes d’attaques et sur les réponses à apporter pour assurer la cybersécurité collective.
C’est fascinant de voir comment l’IA peut à la fois inspirer et inquiéter. La créativité humaine doit toujours garder une longueur d’avance sur les machines. Restons vigilants et unis.