Le National Institute of Standards and Technology (NIST) sollicite des retours du public concernant un projet visant à élaborer des recommandations pour aider les entreprises à mettre en œuvre divers systèmes d’intelligence artificielle de manière sécurisée.
Ce jeudi, le NIST a publié un document conceptuel au sujet de la création de superpositions de contrôle pour sécuriser les systèmes d’IA, basé sur son cadre SP 800-53 largement reconnu. Ces superpositions ont pour but d’assurer que les entreprises intègrent l’IA tout en préservant l’intégrité et la confidentialité des technologies et des données utilisées dans divers scénarios de test.
L’agence a également mis en place un canal Slack pour recueillir les avis de la communauté sur le développement de ces superpositions.
« Les avancées et les cas d’utilisation potentiels des technologies d’intelligence artificielle (IA) apportent à la fois de nouvelles opportunités et de nouveaux risques en matière de cybersécurité », indique le document du NIST. « Bien que les systèmes d’IA modernes soient principalement des logiciels, ils posent des défis en matière de sécurité différents de ceux des logiciels traditionnels. »
Le projet repose actuellement sur cinq cas d’utilisation :
- Adaptation et utilisation de l’IA générative – Assistant/modèle de langage large
- Utilisation et ajustement de l’IA prédictive
- Utilisation de systèmes d’agents IA – Agent unique
- Utilisation de systèmes d’agents IA – Multi-agents
- Contrôles de sécurité pour les développeurs d’IA
La rapide accélération de l’utilisation de l’IA dans les environnements d’entreprise a permis aux sociétés d’améliorer la productivité au travail, mais elle suscite également des inquiétudes quant à la sécurité de cette technologie.
Des chercheurs ont identifié plusieurs moyens par lesquels des acteurs malveillants pourraient exploiter les agents d’IA pour voler ou corrompre des données. Lors de la récente conférence Black Hat à Las Vegas, des chercheurs de Zenity Labs ont démontré comment des hackers pouvaient prendre le contrôle des principaux agents d’IA et les utiliser pour des attaques, telles que la manipulation de flux de travail critiques.
L’IA peut également servir d’outil offensif. En juillet, des chercheurs de Carnegie Mellon ont révélé que les modèles de langage large (LLMs) sont capables de lancer de manière autonome des cyberattaques.
Bon à savoir
- L’importance des retours d’expérience pour la réussite de la mise en œuvre des recommandations par le NIST.
- Les superpositions de contrôle visent à standardiser la sécurité en IA, pouvant ainsi servir de référence pour d’autres organismes.
- La nécessité de rester vigilant face aux menaces potentielles liées à l’utilisation croissante de l’IA dans le monde professionnel.
La sécurité des systèmes d’intelligence artificielle soulève de nombreuses questions d’ordre éthique et opérationnel. La mise en œuvre de ces recommandations par le NIST pourrait être un pas vers une meilleure gestion des risques associés à cette technologie en plein essor. Quelles autres mesures pourraient être envisagées pour protéger nos données dans ce contexte ?