Un nouveau rapport d’OpenAI révèle que des adversaires étrangers intensifient l’utilisation de l’intelligence artificielle pour mener des opérations de piratage et d’influence. Parmi les outils utilisés, on retrouve ChatGPT, le célèbre modèle de langage de la société.
Les principales nations concernées incluent la Russie, la Chine et la Corée du Nord.
« Les attaques facilitées par l’IA deviennent de plus en plus sophistiquées et difficiles à détecter », a déclaré Daryl Lim, affilié au Centre pour une intelligence artificielle socialement responsable de l’université d’État de Pennsylvanie, lors d’un échange avec Straight Arrow News. « Les adversaires peuvent personnaliser leurs attaques, contourner les filtres et itérer plus rapidement qu’auparavant. »
Utilisation par la Russie
Les opérateurs russes se servent de ChatGPT pour élaborer des plans d’action, s’appuyant ensuite sur d’autres modèles pour les exécuter. Selon le rapport, « généralement, les opérateurs saisissent un long texte en russe et demandent à générer un script vidéo à partir de celui-ci. » Ils sollicitent ensuite ChatGPT pour traduire le script dans une autre langue avant de produire une description optimisée pour le référencement et plusieurs hashtags.
Dans d’autres cas, ils utilisent ChatGPT pour créer des incitations vidéo, qui sont ensuite intégrées à d’autres outils d’IA. Ces vidéos sont partagées sur des plateformes de réseaux sociaux comme TikTok et X.
« Nous observons également des impersonnations facilitées par l’IA, des clonages vocaux, des vidéos deepfake et des scripts écrits par IA, utilisés pour tromper les responsables américains et le grand public », a précisé Lim. « Certains expérimentent avec des grands modèles de langages pour rationaliser la désinformation et les opérations de piratage. Bien que bon nombre de ces efforts soient encore exploratoires, ils laissent présager des campagnes automatisées et à grande échelle qui pourraient mettre à l’épreuve les défenses existantes. »
Une opération spécifique a généré du contenu en français critiquant les actions de la France et des États-Unis en Afrique, tout en louant le rôle de la Russie sur ce continent. Parallèlement, du contenu en anglais était diffusé, critiquant l’Ukraine et ses soutiens internationaux.
Utilisation par la Corée du Nord
Les opérateurs nord-coréens auraient également eu recours à ChatGPT pour aider au développement de logiciels malveillants et de systèmes de commandement et de contrôle, définis comme un cadre qui permet à un dirigeant de diriger, coordonner et surveiller des forces ou des actifs pour atteindre des objectifs précis.
« Nous avons également identifié des brouillons de courriels de phishing en coréen, souvent thématisés autour des cryptomonnaies et conçus pour ressembler à des messages émanant de services gouvernementaux ou financiers », indique le rapport.
Des campagnes de phishing ciblant des missions diplomatiques sud-coréennes ont été observées, rappelant celles mentionnées dans un rapport distinct.
Utilisation par la Chine
Concernant la Chine, OpenAI a découvert plusieurs comptes associés à des entités gouvernementales, en violation des politiques de sécurité nationale de l’entreprise.
« Certains de ces comptes ont demandé à nos modèles de générer des propositions de travail pour des systèmes à grande échelle destinés à surveiller les conversations sur les réseaux sociaux », précise le rapport. « Bien que ces usages semblent avoir été individuels plutôt qu’institutionnels, ils offrent un rare aperçu des abus autoritaires de l’IA. »
OpenAI a déclaré avoir finalement banni plusieurs comptes liés à la Chine, incluant un petit réseau associé à une opération d’influence clandestine. Ces comptes produisaient principalement des publications sur les réseaux sociaux en anglais, critiquant le Vietnam et les Philippines, ainsi que des contenus sur certaines questions politiques américaines.
Que peut-on faire ?
OpenAI a signalé avoir suspendu plusieurs autres comptes jugés susceptibles de poser des problèmes de sécurité. L’entreprise a aussi indiqué que ses modèles intervenaient lorsque certains acteurs sollicitaient des requêtes jugées excessives.
« Nous n’avons trouvé aucune preuve de nouvelles tactiques ou que nos modèles aient donné aux acteurs malveillants des capacités offensives inédites », note le rapport. « En fait, nos modèles ont systématiquement refusé des demandes manifestement malveillantes. »
Le gouvernement américain a également élaboré un plan pour atténuer ces risques. « Le plan d’action de la Maison Blanche sur l’IA souligne la nécessité de sécuriser les modèles avancés et de surveiller les risques potentiels pour la sécurité nationale », a déclaré Lim. « Le Département de la Justice a également lancé un nouveau programme de sécurité des données pour restreindre l’accès des adversaires étrangers aux données personnelles et gouvernementales sensibles. Au niveau technique, le Centre de sécurité des IA de la National Security Agency collabore avec l’industrie pour renforcer les systèmes d’IA et partager des renseignements sur les menaces. »
Points à retenir
- Utilisation croissante de l’IA dans des opérations malveillantes par des pays comme la Russie, la Chine et la Corée du Nord.
- Les attaques facilitées par l’IA sont de plus en plus personnalisées et difficiles à détecter.
- Les dispositifs de sécurité sont renforcés par des initiatives gouvernementales aux États-Unis pour contrer ces menaces.
En conclusion, la montée des menaces liées à l’intelligence artificielle souligne l’importance d’une vigilance continue et d’une collaboration internationale pour défendre les systèmes démocratiques. Comment peut-on anticiper ou contrer ces nouvelles formes de manipulation et d’influence ?