OpenAI a récemment suspendu plusieurs comptes ChatGPT, basés en Russie, qu’elle soupçonne d’être utilisés dans une campagne d’influence en ligne visant à propager de la désinformation.
Cette découverte a été faite suite à l’examen de publications sur les réseaux sociaux générées par l’IA, ce qui a conduit à la révélation d’une opération d’influence beaucoup plus étendue, selon un communiqué de l’entreprise publié mardi.
La campagne se fondait sur un site web présentant des travaux académiques copiés et mal attribués, un « indice de souveraineté » mettant la Russie sous un jour favorable, ainsi que des efforts pour masquer les origines russes des opérateurs, a précisé OpenAI.
C’est un nouvel exemple d’acteurs pro-russes utilisant l’IA pour diffuser de la désinformation. Bien qu’OpenAI limite l’accès à ses modèles en Russie, la société a indiqué que des VPN avaient été utilisés pour dissimuler la localisation.
En février, OpenAI avait suspendu des comptes ChatGPT liés à Rybar, un média pro-russe que le gouvernement britannique décrit comme « partiellement coordonné par l’Administration présidentielle », financé par la corporation d’État russe Rostec et collaborant avec des membres des services de renseignement russes.
CNBC a tenté de joindre l’ambassade de Russie à Londres ainsi que le ministère des Affaires étrangères russe pour obtenir des commentaires.
Campagne d’influence pro-russe
Les opérateurs ont demandé en russe à ChatGPT de générer des commentaires sur les réseaux sociaux, publiés sur Substack, Telegram, X, Facebook et LinkedIn, tout en dissimulant les indices linguistiques de leur origine russe, selon OpenAI.
Une grande partie du contenu généré faisait la promotion d’une organisation dénommée International Burke Institute (IBI), dont le site présente des articles copiés de véritables écrits académiques, parfois avec de fausses attributions.
La campagne d’influence a également créé un « indice de souveraineté », a ajouté OpenAI, qui louait la Russie tout en dénigrant les pays occidentaux.
Bien que l’impact immédiat de cette opération semble limité, l’entreprise a souligné que « la signification de l’opération réside moins dans le public atteint que dans l’infrastructure mise en place ».
Les publications générées par ChatGPT faisaient référence à une institution apparemment crédible, avec des experts prétendus, des travaux académiques republiés et un indice de risque revendiqué comme étant exclusif, selon OpenAI.
« Cela illustre comment les acteurs d’influence peuvent utiliser l’IA comme un outil au sein d’un effort plus large pour créer de l’autorité, obscurcir la source de leurs récits favoris et établir des actifs pouvant être développés au fil du temps », a ajouté l’entreprise. « Cela démontre également que leur utilisation de l’IA peut rendre l’opération systémique plus visible. »
Points à retenir
- OpenAI a identifié des comptes ChatGPT impliqués dans une campagne d’influence pro-russe.
- Des VPN ont été utilisés pour contourner les limitations d’OpenAI en Russie.
- La campagne a utilisé des contenus académiques falsifiés pour renforcer sa crédibilité.
- Le « indice de souveraineté » créé dans le cadre de cette opération a été critiqué pour sa partialité.
- Les retombées de ce type d’activités soulèvent des questions sur la responsabilité des plateformes d’IA.
La situation actuelle met en lumière les dangers potentiels d’une utilisation abusée de l’IA dans les campagnes d’influence. À titre personnel, je pense qu’il est essentiel de rester conscient des messages que nous consommons sur les réseaux sociaux. Les acteurs malveillants ont désormais les moyens de manipuler l’information, et il est de notre responsabilité en tant que consommateurs d’information de développer un esprit critique. Comment pouvons-nous nous prémunir contre de telles tactiques à l’avenir ?