Lunettes Meta, ChatGPT et la Montée de la Violence Extrémiste High-Tech

Par Sam Hunter, Joel Elson, et Austin Doctor
Rechercheurs Seniors de NCITE

Le FBI a rapporté que l’assaillant présumé de la Nouvelle-Orléans, Shamsud-Din Jabbar, a porté des lunettes intelligentes de Meta à au moins deux reprises dans la ville pour sembler planifier son attaque qui se produira quelques semaines plus tard, le jour de l’An. À la fin d’octobre et au début de novembre, le FBI a indiqué que Jabbar avait utilisé ces lunettes pour enregistrer la zone, notamment en faisant du vélo dans le Vieux Carré.

Ces lunettes ont pu s’avérer un outil utile pour la planification. Le terrorisme connaît une résurgence notable, et cette nouvelle vague semble embrasser ouvertement les outils modernes disponibles.

Le Métavers comme Outil de Terreur

Pour ceux qui ne sont pas familiarisés, ces lunettes – développées en partenariat avec Ray-Ban – ressemblent à des lunettes classiques avec plusieurs fonctionnalités clés. Tout d’abord, elles sont dotées d’une capacité d’enregistrement grâce à une petite caméra dans un coin. Cette caméra peut capturer discrètement des images, que ce soit pour un usage ultérieur ou pour diffuser en direct sur des plateformes comme Facebook. Deuxièmement, les modèles plus récents sont équipés d’intelligence artificielle, offrant des descriptions de lieux en temps réel, une navigation améliorée, ou de réponses générales aux questions, semblable à ChatGPT. Cette fonctionnalité a récemment été démontrée par des étudiants de l’Université de Harvard, mettant en avant la capacité à fournir des informations en temps réel (c’est-à-dire des données sensibles) sur des inconnus. Enfin, les lunettes sont dotées d’enceintes intégrées, permettant à l’utilisateur d’écouter de la musique, de prendre des appels téléphoniques ou – point le plus pertinent ici – d’entendre des commentaires d’utilisateurs lors d’une diffusion en direct. Ces caractéristiques sont conçues pour améliorer l’expérience de l’utilisateur, mais peuvent également offrir une valeur unique aux acteurs malveillants.

Au sein de NCITE, l’utilisation d’un dispositif portable pour faciliter la planification d’une attaque terroriste fait l’objet de réflexions depuis plusieurs années. Nous avons publié des discussions, des rapports techniques et un article académique récent à ce sujet. Bien que l’utilisation des lunettes de Meta par Jabbar puisse être perçue comme une simple extension du travail de reconnaissance que les terroristes pratiquent depuis des années, il est notable de constater la fusion croissante des réalités physique et numérique. Les images à hauteur des yeux, par exemple, donnent une sensation immersive. Cela permet une planification plus efficace car cela mime ce qui pourrait être observé dans la réalité lors d’une attaque. C’est l’émergence du métavers, qui évolue d’un concept de science-fiction à une intégration fluide et naturelle des réalités physique et numérique.

Le récent attentat inspiré par l’État islamique à la Nouvelle-Orléans n’est pas le seul exemple récent d’extrémistes violents utilisant des technologies émergentes du métavers. Un attentat par les Houthistes dans la mer Rouge l’automne dernier a révélé que les pirates, à l’origine de l’attaque, utilisaient une caméra 360 sur Instagram pour capturer des images. Ce dispositif et d’autres similaires permettent de partager et de distribuer des vidéos dans des formats immersifs (tels que la réalité virtuelle). Cet attentat est le premier où nous avons constaté l’utilisation de ce type de caméra. Même les organisations terroristes étrangères comme les forces houthistes – dont les objectifs stratégiques sont principalement d’ordre national et régional – intensifient leurs approches numériques immersives.

La Nouvelle-Orléans n’était pas la seule ville touchée par un acte de violence utilisant des technologies émergentes le jour de l’An. Quelques heures après l’attaque de Bourbon Street, un béret vert en service actif a fait exploser son Tesla Cybertruck devant le Trump International Hotel à Las Vegas, se tuant et blessant plusieurs personnes. L’homme, identifié comme Matthew Livelsberger, aurait apparemment utilisé l’IA dans sa planification et a employé un dispositif explosif artisanal transporté par véhicule, selon des rapports récents. Bien que le mobile reste flou, l’utilisation de la violence ciblée, que ce soit envers soi-même ou autrui via un dispositif explosif, reste une préoccupation pour nous chez NCITE. Nous avons plusieurs rapports et articles évalués par des pairs à publier prochainement sur l’utilisation de l’IA pour développer de nouvelles idéées nuisibles.

Quelle est la suite?

La tendance est claire. Les terroristes adoptent les technologies numériques tant pour planifier que pour partager leur propagande mettant en avant leurs attaques. C’est une évolution que nous avons anticipée au sein de NCITE avec un certain inquiétude. À mesure que les preuves sur l’utilisation de technologies émergentes dans la planification, l’exécution et la diffusion des attaques s’accumulent, une question se pose : Quelle sera la prochaine étape?

La mauvaise nouvelle : des reconnaissances comme celles apparemment réalisées par Jabbar deviendront moins nécessaires. L’utilisation d’images en temps réel pour explorer des emplacements grâce à la technologie de réalité virtuelle signifie que les terroristes n’auront plus besoin de se dévoiler, même en utilisant des technologies à peine perceptibles comme ces lunettes.

D’autre part, bien qu’il ne soit pas clair pourquoi Jabbar n’a apparemment pas activé la fonctionnalité de diffusion en direct de ses lunettes, les futurs attaquants le feront probablement. Un certain nombre d’attaques récentes, inspirées de celles de Christchurch en Nouvelle-Zélande en 2019 et de l’attaque de la synagogue de Halle plus tard dans l’année en Allemagne, ont vu des assaillants, comme ceux de Buffalo, NY, diffuser leurs actions en direct. À mesure que la technologie permet aux spectateurs de vivre l’attaque de manière plus immersive, les terroristes seront naturellement attirés par ces outils pour propager leur idéologie. Nous devons abandonner le stéréotype selon lequel les extrémistes et les terroristes ont du retard dans l’adoption des technologies émergentes. Bien que cela soit parfois vrai, nous avons souligné qu’ils peuvent également être des pionniers innovants.

La technologie devient physiquement plus compacte et, grâce à l’IA, de plus en plus accessible. Des lunettes indétectables, d’autres dispositifs portables et des appareils couplés à la puissance de l’IA permettent une présentation fluide d’images réelles et améliorées par l’IA en temps réel. Il est temps de dépasser l’image d’un casque volumineux lorsque nous entendons le terme « métavers ». Les technologies d’aujourd’hui sont plus petites, plus élégantes et plus intégrées. L’attaque à la Nouvelle-Orléans est une leçon douloureuse à cet égard.

La bonne nouvelle : des chercheurs académiques comme ceux de NCITE ont la chance de pouvoir partager leurs résultats avec le gouvernement. Ce partenariat permet à des centres comme NCITE d’obtenir des perspectives pratiques sur des problèmes concrets et de développer des programmes de recherche susceptibles de venir en aide à ceux qui en ont besoin.

Les membres de la communauté du renseignement travaillent également dans l’ombre pour prévenir de nombreuses attaques. Bien qu’une seule attaque réussie soit déjà de trop, il est important de reconnaître le travail de ceux qui parviennent à empêcher des attaques dont nous n’entendons jamais parler. Nous disposons des mêmes outils que ceux qui cherchent à nuire. Il sera essentiel de tirer parti de notre expertise innovante pour déjouer les attaques futures. Certaines agences ont déjà franchi cette première étape. Le chemin doit se poursuivre.

^{Ce matériel est basé sur des travaux soutenus par le Département de la Sécurité Intérieure des États-Unis sous le numéro de subvention 20STTPC00001-05. Les points de vue et les conclusions qui y sont exprimés sont ceux des auteurs et ne doivent pas nécessairement être interprétés comme représentant les politiques officielles, explicites ou implicites, du Département de la Sécurité Intérieure des États-Unis.}