80 % des secteur utilise l’IA : Alerte de Microsoft sur les risques de l’IA occulte
Microsoft met en garde contre l’utilisation non régulée des logiciels autonomes équipés d’intelligence artificielle (IA). Dans son récent « Cyber Pulse Report », publié avant la Conférence de sécurité de Munich, les chercheurs de la société soulignent que plus de 80 % des grandes entreprises (Fortune 500) ont déjà intégré des assistants IA dans leurs processus de programmation. Cependant, très peu d’entreprises ont établi des règles claires pour leur utilisation. Cette adoption rapide entraîne des risques difficilement mesurables, car un manque de supervision et la présence d’une IA occulte ouvrent la voie à des méthodes d’attaque innovantes.
Une IA non supervisée
L’IA occlusive désigne l’utilisation d’applications d’IA par des employés sans que le département IT ou la sécurité de l’entreprise en soient informés ou qu’elles aient reçu une approbation officielle. Les employés agissent souvent de manière autonome, utilisant des outils d’IA disponibles en ligne pour améliorer leur efficacité sans le consentement de leur hiérarchie.
Le rapport de Microsoft met en lumière un décalage croissant entre innovation et sécurité. Alors que l’utilisation de l’IA connaît une forte hausse, moins de la moitié des entreprises (47 %) disposent de contrôles de sécurité spécifiques pour l’IA générative, et 29 % des employés ont déjà recours à des agents IA non approuvés. Cela crée des zones d’ombre sur le plan de la sécurité organisationnelle.
Le risque d’une rapide intégration
Les experts de Microsoft avertissent que l’accélération de l’intégration des applications IA engendre un risque accru. « Le déploiement rapide des agents IA peut contourner les contrôles de sécurité et de conformité, augmentant ainsi le risque de présentation d’IA occulte. » Des acteurs malveillants pourraient exploiter les autorisations des agents pour en faire des doubles agents néfastes : « Tout comme un employé humain, un agent avec des accès excessifs ou de mauvaises instructions peut devenir une vulnérabilité. »
Les auteurs du rapport soutiennent que ces risques ne sont pas abstraits. Récemment, l’équipe Defender de Microsoft a mis en évidence une campagne frauduleuse utilisant une technique d’attaque d’IA nommée « Memory Poisoning », qui permet de manipuler définitivement les résultats des assistants IA.
Limiter l’accès aux données
Le rapport propose diverses mesures pour réduire au minimum les risques associés à l’utilisation des applications IA. Les assistants IA ne devraient avoir accès qu’aux données strictement nécessaires à leurs tâches. Il est également recommandé aux entreprises de créer un registre central pour identifier les agents IA en opération, leur propriétaire et les données auxquelles ils peuvent accéder. Les agents non approuvés doivent être identifiés et isolés.
Points à retenir
- Plus de 80 % des grandes entreprises utilisent des assistants IA sans règles claires.
- La plupart des entreprises n’ont pas de contrôles de sécurité adaptés pour l’IA générative.
- Un nombre croissant d’employés recourt à des outils d’IA non approuvés.
- Des mesures doivent être prises pour réguler l’accès aux données par les systèmes d’IA.
Cette question de l’intégration de l’IA dans nos environnements professionnels ne devrait pas être prise à la légère. Elle soulève des enjeux cruciaux pour la sécurité et l’éthique. Il est essentiel d’engager un dialogue sur la façon dont nous, en tant que société, souhaitons naviguer dans cette ère d’innovation technologique, en équilibrant potentiel et prudence. Comment les entreprises pourraient-elles mieux encadrer l’utilisation de l’IA tout en restant compétitives ? Réfléchissons ensemble à ce sujet fascinant !