Une nouvelle initiative visant à améliorer la collaboration sur la cybersécurité de l’intelligence artificielle (IA) au sein des infrastructures critiques a été lancée par la Cybersecurity and Infrastructure Security Agency (CISA) aux États-Unis.

Le JCDC AI Cybersecurity Collaboration Playbook fournit des conseils détaillés aux développeurs, fournisseurs et utilisateurs d’IA sur le partage volontaire d’informations en matière de cybersécurité avec la CISA et ses partenaires du Joint Cyber Defense Collaborative (JCDC).

Ce guide expose des stratégies pour favoriser la coopération entre les agences fédérales, l’industrie privée et les parties prenantes internationales. Son objectif est de sensibiliser aux risques liés à la cybersécurité des systèmes d’IA et de renforcer leur résilience.

Les objectifs principaux incluent l’encouragement au partage volontaire des incidents de cybersécurité et des vulnérabilités associés aux systèmes d’IA, tout en définissant clairement les protections et les mécanismes d’échange d’informations.

Les informations partagées via le JCDC peuvent améliorer la coordination, fournir un soutien gouvernemental et favoriser les discussions sur les défis posés par la cybersécurité de l’IA. Il est précisé que la participation est volontaire et ne comporte pas de contraintes réglementaires. De plus, les thèmes tels que l’équité de l’IA, l’éthique et les préoccupations de sécurité liées aux risques pour la vie humaine, la santé, les biens ou l’environnement sont exclus.

Développé à partir des enseignements tirés de deux exercices de simulation réalisés en 2024 avec plus de 150 participants, le playbook met l’accent sur la collaboration et l’amélioration continue. Microsoft a organisé le premier exercice en Virginie, tandis que le second, axé sur la cybersécurité des services financiers, s’est tenu au siège de Scale AI en Californie.

Recommandations pour le partage d’informations

La CISA recommande aux organisations d’adopter les pratiques du playbook pour renforcer les processus de partage d’informations et consolider les défenses contre les menaces émergentes. Le document précise des mécanismes spécifiques pour un échange de données sécurisé, notamment le Traffic Light Protocol (TLP), qui garantit une diffusion contrôlée des informations sensibles.

Les principales catégories d’informations encouragées pour le partage comprennent :

  • Activités malveillantes observées ciblant les systèmes d’IA

  • Comportements suspects et évaluations de menaces

  • Rapport d’incidents et divulgations de vulnérabilités

En savoir plus sur les pratiques collaboratives en matière de cybersécurité : CISA lance un programme Vulnrichment pour relever les défis du NVD

Bien que le playbook se concentre sur la coordination du JCDC, il met également en lumière d’autres voies de partage volontaire d’informations, telles que les Centres d’Analyse et de Partage d’Informations (ISAC) et le Centre de Sécurité de l’IA de la National Security Agency.

La CISA prévoit de mettre à jour régulièrement le playbook en fonction des menaces évolutives et des retours des parties prenantes. L’agence invite les organisations à s’engager activement avec le playbook et à contribuer au renforcement de la posture collective en matière de cybersécurité.

Bon à savoir

  • La coopération internationale est cruciale pour faire face aux menaces cybernétiques liées à l’IA.
  • Le partage d’informations peut considérablement améliorer la réponse aux incidents de cybersécurité.
  • Les exercices de simulation sont des outils efficaces pour tester et améliorer les protocoles de sécurité existants.

La cybersécurité dans le domaine de l’intelligence artificielle nécessite une approche proactive où le partage d’informations joue un rôle fondamental. Cette initiative de la CISA pourrait-elle inspirer d’autres pays à développer des stratégies similaires ? Les enjeux économiques et sécuritaires sont indéniables, et il est crucial d’engager une réflexion collective sur l’avenir des systèmes d’IA en matière de sécurité.



Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *