Comment les entreprises peuvent sécuriser l’IA efficacement

Bien que le sujet de l’intelligence artificielle (IA) dans le milieu professionnel soit omniprésent, l’industrie de l’IA et de l’apprentissage automatique (machine learning) est encore en phase de maturation. Selon Scott Johnston, PDG de Docker, lors de l’événement SwampUp 2024 de JFrog, l’IA générative va transformer la manière dont les organisations créent, partagent et stockent des données, influençant ainsi la dynamique de collaboration. Cependant, à l’instar de l’intégration des pratiques DevOps et DevSecOps lors du développement de logiciels en interne, les entreprises doivent adopter un processus similaire pour assurer la sécurité du développement de l’IA, ce qui a donné lieu à l’émergence de MLOps et MLSecOps.

MLOps regroupe des pratiques qui gèrent le cycle de vie de l’apprentissage automatique tout en facilitant la collaboration entre développement et exploitation, comme l’indique Google. L’absence de MLOps dans un environnement d’application qui dépend de l’IA peut se traduire par une hausse des erreurs, une efficacité réduite et des difficultés de collaboration. Par ailleurs, MLSecOps intègre des pratiques de sécurité et de confidentialité dans le développement de l’apprentissage automatique, jouant un rôle crucial dans le respect des normes de gouvernance et de conformité.

Yuval Fernbach, VP et CTO de MLOps chez JFrog, souligne que les organisations développant des applications d’IA, en particulier générative, doivent mettre en œuvre MLOps et MLSecOps durant la phase de modélisation. Fernbach a également précisé que MLOps est une sous-catégorie de DevOps, et qu’il est essentiel que les entreprises réfléchissent à la manière dont leur processus DevOps peut intégrer les pipelines d’apprentissage automatique.

Pourquoi les organisations ont besoin de MLOps et MLSecOps

Les entreprises qui utilisent l’apprentissage automatique en production ou qui s’appuient sur l’IA doivent réfléchir à la meilleure manière de sécuriser ces technologies. Pourtant, très peu d’entre elles intègrent MLOps à l’heure actuelle. Comme l’explique Fernbach, bien que cette technologie soit encore à ses débuts, sa mise en œuvre est la seule façon pour les entreprises de maximiser l’impact de l’apprentissage automatique. Le processus de création d’IA et d’apprentissage automatique dans les applications est en effet complexe. Les applications ML incluent des éléments variés, notamment des modèles nécessitant des données de qualité, une préparation minutieuse des données, une formation, ainsi que du suivi et des ajustements des modèles.

Il est essentiel d’éviter les inexactitudes dans la formation des modèles d’apprentissage automatique, car elles peuvent entraîner des conséquences regrettables pour l’organisation. Par exemple, une erreur d’IA a abouti à des informations incorrectes fournies à un client par le chatbot d’Air Canada, ce qui a eu des répercussions juridiques pour la compagnie, comme l’a souligné Dilip Bachwani, CTO de Qualys, lors de la conférence QSC2024 en octobre dernier. Bachwani recommande de mettre en place des garde-fous avant de déployer des modèles d’apprentissage automatique.

Avoir une visibilité sur le système d’IA est également un impératif ; sans elle, les organisations risquent de perdre le contrôle sur les résultats générés par leurs modèles d’IA. Si différentes équipes ajoutent des données sans supervision, le système risque de comporter de nombreuses vulnérabilités. MLOps et MLSecOps doivent donc agir comme des garde-fous et fonctionner de concert avec les équipes DevOps. Comme Bachwani le souligne, il est important de considérer le développement et le déploiement des modèles de manière unifiée, plutôt que de manière séparée.

Les équipes d’ingénierie ML doivent également adopter des contrôles de sécurité au même titre que les développeurs de logiciels. En utilisant MLOps et MLSecOps, les ingénieurs et les équipes de sécurité seront mieux armés pour former des modèles adaptés aux besoins des organisations tout en préservant la sécurité des données et des processus.