Le rôle de l’intelligence artificielle (IA) dans la lutte contre les menaces cybernétiques est désormais incontournable.
Les entreprises et les fournisseurs de solutions de cybersécurité s’efforcent d’intégrer l’IA pour renforcer leurs défenses face à des menaces en constante évolution. Cependant, bien que le potentiel de l’IA soit indéniable, son adoption comporte des complexités et des risques qui nécessitent une attention particulière.
Un nouveau rapport de Sophos, Au-delà du Hype : la réalité économique de l’IA en cybersécurité, explore le paysage actuel de l’IA dans ce domaine, en mettant l’accent sur le genAI et ses implications, basé sur des données recueillies auprès de 400 leaders en informatique et en cybersécurité issus de petites et moyennes entreprises.
L’adoption généralisée de l’IA en cybersécurité est manifeste : 98 % des organisations sondées utilisent déjà l’IA sous une forme ou une autre. Parmi elles, 73 % exploitent des solutions propulsées par des modèles d’apprentissage profond (DL), tandis que 65 % s’appuient sur les capacités du genAI.
En outre, 34 % mettent en œuvre des solutions genAI internes pour améliorer leurs défenses. Cette omniprésence de l’IA se reflète également dans les décisions d’achat, avec 99 % des organisations considérant les capacités d’IA comme prioritaires lors de la sélection de plateformes de cybersécurité. Pour 57 % d’entre elles, ces capacités sont jugées essentielles ou extrêmement importantes, tandis que 41 % les considèrent comme importantes.
Cela souligne le rôle central que joue l’IA dans les stratégies modernes de cyberdéfense. À mesure que les organisations poursuivent leur numérisation, la demande pour des solutions conduites par l’IA devrait encore grandir.
Les attentes et la réalité du genAI
Le genAI, qui assimile des entrées pour générer de nouvelles sorties, suscite un intérêt significatif en raison de son potentiel dans le secteur de la cybersécurité. Les organisations espèrent que cette technologie apportera une série d’avantages, allant de l’amélioration de la protection contre les menaces à l’optimisation du retour sur investissement (ROI). Les résultats du sondage révèlent les principaux bénéfices attendus du genAI dans les outils de cybersécurité :
- Amélioration de la protection contre les menaces cybernétiques (20 %)
- Amélioration du ROI (20 %)
- Efficacité et impact accrus des analystes informatiques (17 %)
- Confiance dans la capacité à suivre les innovations en cybersécurité (15 %)
- Tranquillité d’esprit concernant les défenses (14 %)
- Réduction de l’épuisement professionnel des employés (14 %)
Fait intéressant, bien que les avantages opérationnels et financiers dominent la liste des attentes, le potentiel du genAI pour atténuer l’épuisement des employés arrive en dernière position. Cela indique que les organisations peuvent sous-estimer la capacité de l’IA à soutenir les équipes de cybersécurité. Étant donné la pénurie de personnel et les taux de rotation élevés dans ce secteur, réduire l’épuisement et améliorer la rétention sont des domaines où le genAI pourrait avoir un impact considérable.
Les risques de l’IA dans la cybersécurité
Malgré ses avantages, l’IA n’est pas exempte de risques. Le sondage a identifié trois domaines de préoccupation principaux : les risques de défense, les risques financiers et les risques opérationnels.
Risques de défense : Qualité et mise en œuvre déficientes
L’efficacité de l’IA dépend fortement de la qualité de ses modèles et de leur mise en œuvre.
Un développement ou une mise en œuvre inadéquate de l’IA peut introduire des vulnérabilités, sapant ainsi les défenses d’une organisation. De façon alarmante, 89 % des répondants ont exprimé des inquiétudes quant aux défauts des capacités du genAI susceptibles de nuire à leur organisation, dont 43 % sont très préoccupés.
Pour atténuer ces risques, les organisations évaluent les processus de développement des solutions de genAI, 73 % effectuant des évaluations complètes et 27 % des examens partiels. Cependant, la transparence de la part des fournisseurs et l’expertise en IA au sein des organisations demeurent limitées. Ce manque de visibilité laisse souvent les organisations dans l’ignorance des défauts potentiels, représentant un point aveugle significatif.
Risques financiers : Défis de ROI
Bien que l’amélioration du ROI soit un chauffeur essentiel pour l’adoption du genAI, cela comporte également des risques financiers.
Développer et maintenir des capacités de genAI de haute qualité est coûteux, et 80 % des répondants anticipent que ces coûts entraîneront une augmentation significative des prix des produits de cybersécurité. Malgré cela, 87 % restent confiants que les économies réalisées grâce au genAI compenseront ces coûts. La confiance varie selon la taille des entreprises, les grandes sociétés (revenus de plus de 500 millions de dollars) étant 48 % plus susceptibles de croire au ROI positif que les plus petites (moins de 10 millions de dollars).
Néanmoins, quantifier les coûts du genAI reste un défi. Les trois quarts des répondants (75 %) s’accordent à dire que ces coûts sont difficiles à mesurer. Les organisations de plus grande taille avec des infrastructures plus complexes éprouvent plus de difficultés à évaluer ces coûts, soulignant la nécessité d’une meilleure transparence et d’un reporting amélioré.
Risques opérationnels : Dépendance excessive à l’IA
La nature omniprésente de l’IA peut entraîner une dépendance excessive, où les organisations supposent que l’IA est infaillible. Cette dépendance soulève des préoccupations quant à la responsabilité et à l’impact sur la main-d’œuvre :
- 84 % des répondants craignent que l’IA n’entraîne une pression pour réduire le nombre d’employés en cybersécurité (dont 42 % très préoccupés).
- 87 % s’inquiètent d’un manque de responsabilité découlant de l’utilisation de l’IA (dont 37 % très préoccupés).
Lecture recommandée
Conseils pour une adoption sécurisée de l’IA
Pour maximiser les avantages de l’IA tout en atténuant les risques, le rapport suggère que les organisations adoptent une approche réfléchie et informée. Voici quelques recommandations pour commencer :
1. Poser les bonnes questions aux fournisseurs
La transparence est essentielle lors de l’évaluation des capacités d’IA. Les organisations devraient interroger les fournisseurs sur :
- Données d’entraînement : Quelle est la qualité, la quantité et la source des données ? Des entrées de haute qualité conduisent à des résultats améliorés.
- Expertise de l’équipe de développement : Ont-ils une connaissance suffisante en matière d’IA et de menaces de cybersécurité ?
- Processus d’ingénierie et de déploiement : Quels contrôles et vérifications sont en place durant le développement et le déploiement ?
2. Appliquer la rigueur commerciale aux investissements en IA
Les investissements en IA devraient être alignés avec des objectifs commerciaux clairs. Les organisations devraient :
- Établir des résultats spécifiques et mesurables.
- Quantifier les bénéfices attendus de l’IA.
- Prioriser les investissements en fonction de critères tels que les économies de coûts, la réduction des risques et la rétention de personnel.
- Mesurer régulièrement la performance et ajuster les stratégies au besoin.
3. Voir l’IA à travers le prisme de l’humain
L’IA doit soutenir les équipes humaines plutôt que de les remplacer. Les organisations devraient :
- Maintenir une perspective, en reconnaissant que l’IA n’est qu’un outil dans une stratégie de cybersécurité plus large.
- Utiliser l’IA pour gérer les tâches répétitives, permettant ainsi aux analystes de se concentrer sur des activités à plus forte valeur ajoutée.
- Insister sur le fait que la responsabilité finale incombe aux professionnels humains.
Bon à savoir
- L’IA joue un rôle croissant dans le secteur de la cybersécurité, mais son utilisation doit être encadrée par des pratiques éthiques et transparentes.
- Les organisations doivent s’assurer de disposer des compétences internes nécessaires pour mettre en œuvre des solutions d’IA de manière efficace.
- La priorisation de la formation et de l’éducation des équipes se révèle essentielle pour tirer pleinement parti des technologies d’IA.
D’un point de vue global, l’intégration de l’IA dans la cybersécurité soulève des questions cruciales sur l’équilibre entre automatisation et responsabilité humaine. Alors que ces technologies avancent, il est essentiel d’évaluer soigneusement comment elles peuvent être mises en œuvre pour des résultats optimaux, tout en préservant un rôle significatif pour les professionnels du secteur.
L’IA est fascinante, mais j’espère qu’elle ne remplacera pas le côté humain. La créativité et l’intuition restent irremplaçables dans notre domaine. Équilibrons technologie et humanité !
L’intégration de l’IA en cybersécurité est fascinante ! C’est un vrai défi pour équilibrer innovation et sécurité. La transparence sera clé pour éviter des pièges potentiels. Hâte de voir les prochaines avancées !
C’est fascinant de voir comment l’IA peut transformer la cybersécurité, mais j’espère que tout le monde n’oublie pas que ce sont les humains qui gardent le contrôle!