Si vous avez regardé des cartoons comme “Tom et Jerry”, vous reconnaîtrez une thématique récurrente : un objectif insaisissable échappe à un adversaire redoutable. Ce jeu du « chat et de la souris » — qu’il soit littéral ou figuratif — consiste à poursuivre quelque chose d’inaccessible à chaque tentative.
De manière similaire, échapper aux hackers persistants représente un défi constant pour les équipes de cybersécurité. Pour leur permettre de poursuivre ce qui semble hors de portée, des chercheurs du MIT travaillent sur une approche d’intelligence artificielle appelée « intelligence adversariale artificielle », qui imite les attaques sur un appareil ou un réseau afin de tester leurs défenses avant que de véritables attaques ne surviennent. D’autres mesures défensives basées sur l’IA aident les ingénieurs à renforcer davantage leurs systèmes pour éviter les ransomwares, le vol de données ou d’autres cyberattaques.
Una-May O’Reilly, chercheuse principale au Laboratoire d’informatique et d’intelligence artificielle du MIT (CSAIL) et responsable du groupe Anyscale Learning For All (ALFA), présente ici comment l’intelligence adversariale artificielle nous protège contre les menaces cybernétiques.
Q : Comment l’intelligence adversariale artificielle peut-elle jouer le rôle d’un cyberattaquant et comment se positionne-t-elle en tant que défenseur ?
A : Les cyberattaquants existent sur un spectre de compétence. À l’extrémité inférieure, nous trouvons les « script-kiddies », qui utilisent des exploits et des malwares bien connus dans l’espoir de cibler un réseau ou un appareil peu vigilants. Au milieu se trouvent des mercenaires informatiques, mieux équipés et organisés, qui s’attaquent aux entreprises avec des ransomwares ou de l’extorsion. Enfin, à un niveau plus élevé, des groupes parfois soutenus par l’État peuvent lancer des menaces persistantes avancées (APT) extrêmement difficiles à détecter.
Pensez à l’intelligence spécialisée et malveillante que ces attaquants mobilisent : c’est cela l’intelligence adversariale. Ils créent des outils techniques qui leur permettent de pirater le code, choisissent le bon outil pour leur cible, et leurs attaques se déroulent en plusieurs étapes. À chaque étape, ils apprennent quelque chose, l’intègrent dans leur compréhension de la situation et prennent ensuite une décision sur la suite des événements. Les APT sophistiqués peuvent même choisir leurs cibles de façon stratégique et concevoir un plan très subtil dont la mise en œuvre échappe à nos défenses. Ils peuvent même créer de fausses preuves attribuant l’attaque à un autre hacker !
Mon objectif de recherche est de reproduire ce type d’intelligence offensive ou d’attaque, cette intelligence orientée vers l’adversaire sur laquelle s’appuient les acteurs de la menace humaine. J’utilise l’IA et l’apprentissage automatique pour concevoir des agents cybernétiques et modéliser le comportement adversarial des attaquants humains. Je modélise également l’apprentissage et l’adaptation qui caractérisent les courses aux armements cybernétiques.
Il est également impératif de noter que les défenses cybernétiques sont plutôt complexes. Elles ont évolué en réponse aux capacités d’attaque croissantes. Ces systèmes de défense doivent concevoir des détecteurs, traiter les journaux système, déclencher des alertes appropriées puis les trier dans des systèmes de réponse aux incidents. Ils doivent rester constamment vigilants pour défendre une surface d’attaque vaste et dynamique. De notre côté, dans cette compétition attaquant contre défenseur, mon équipe et moi inventons également de l’IA au service de ces différentes lignes de défense.
Un autre aspect remarquable de l’intelligence adversariale est qu’à l’instar de Tom et Jerry, les attaquants et les défenseurs apprennent en interagissant les uns avec les autres ! Leurs compétences s’affûtent et ils s’engagent dans une course aux armements. L’un s’améliore, puis l’autre fait de même pour sauver sa peau. Cette amélioration réciproque s’intensifie sans fin ! Nous travaillons à reproduire ces versions cybernétiques de courses aux armements.
Q : Quels exemples de notre vie quotidienne montrent comment l’intelligence adversariale artificielle nous a protégés ? Comment pouvons-nous utiliser ces agents d’intelligence adversariale pour devancer les acteurs de la menace ?
A : L’apprentissage automatique est utilisé de diverses manières pour garantir la cybersécurité. Il existe de nombreux détecteurs qui filtrent les menaces. Ils sont paramétrés pour reconnaître des comportements anormaux et des types de malwares identifiables, par exemple. Il existe également des systèmes de tri automatisés alimentés par l’IA. Certains outils de protection anti-spam présents sur nos smartphones utilisent également l’IA !
Avec mon équipe, nous concevons des cyberattaquants dotés d’intelligence artificielle qui simulent le comportement des acteurs menaçants. Nous développons des agents cybernétiques capables de traiter de vastes connaissances techniques, de planifier leurs étapes d’attaque et de prendre des décisions éclairées lors d’une campagne.
Les agents d’intelligence adversariale (comme nos cyberattaquants à intelligence artificielle) peuvent être utilisés pour tester les défenses des réseaux. Un important travail est consacré à l’évaluation de la robustesse d’un réseau face à des attaques, et l’IA joue ici un rôle clé. Lorsque nous ajoutons l’apprentissage automatique à nos agents et à nos défenses, nous mettons en place une course aux armements que nous pouvons analyser et examiner pour anticiper les contre-mesures à adopter lorsque nous prenons nos propres mesures de défense.
Q : À quels nouveaux risques ces agents s’adaptent-ils et comment le font-ils ?
A : Il semble qu’il n’y ait jamais de fin aux nouveaux logiciels lancés et aux nouvelles configurations de systèmes développés. À chaque lancement, il y a des vulnérabilités qu’un attaquant peut cibler, qu’il s’agisse de faiblesses de code déjà documentées ou de cas inédits.
De nouvelles configurations entraînent des erreurs potentielles ou de nouveaux vecteurs d’attaques. Nous n’avions pas anticipé les ransomwares lorsque nous traitions des attaques par déni de service. Désormais, nous jonglons avec l’espionnage cybernétique et les ransomwares, tout en intégrant le vol de propriété intellectuelle. L’ensemble de nos infrastructures critiques, y compris les réseaux de télécommunications, les systèmes financiers, de santé, municipaux, énergétiques et de distribution d’eau, sont des cibles.
Heureusement, beaucoup d’efforts sont consacrés à la défense des infrastructures critiques. Nous devrons traduire cela en produits et services basés sur l’IA qui automatisent certains de ces efforts. Et bien sûr, il est nécessaire de continuer à concevoir des agents adversariaux de plus en plus performants pour nous aider à protéger nos actifs cybernétiques.
Points à retenir
- Les hackers s’adaptent constamment aux technologies de défense, rendant la cybersécurité toujours plus complexe.
- Les agents d’intelligence adversariale peuvent simuler les comportements des attaquants pour optimiser les défenses des réseaux.
- Il est crucial d’intégrer des systèmes basés sur l’IA pour anticiper les menaces émergentes et renforcer les infrastructures critiques.
La cybersécurité est un domaine en perpétuelle évolution, où la proactivité et l’innovation sont essentielles pour anticiper et contrer les menaces. En intégrant l’intelligence artificielle dans la défense cybernétique, nous ouvrons la porte à de nouvelles stratégies qui pourraient transformer notre manière de nous protéger face à un environnement de menaces toujours plus sophistiqué. La coopération entre recherche et pratique est sans aucun doute nécessaire pour garantir un avenir numérique plus sûr. Quelles autres innovations pourraient voir le jour pour renforcer cette lutte constante ?
Faudel, j’adore votre approche sur la cybersécurité ! C’est fascinant de voir comment l’intelligence artificielle peut nous protéger. Merci de partager ces insights si précieux !
Faudel, cet article met en lumière des enjeux cruciaux. L’approche de l’intelligence artificielle pour renforcer notre cybersécurité est inspirante et prometteuse pour notre futur numérique.