Les clés pour sécuriser l’IA : besoins des entreprises

Malgré les nombreuses discussions sur l’impact de l’intelligence artificielle dans le monde du travail, l’industrie de l’IA et de l’apprentissage automatique reste encore en phase de maturation. Scott Johnston, PDG de Docker, a annoncé lors du SwampUp 2024 de JFrog que l’IA générative va révolutionner la manière dont les organisations créent, partagent et stockent les données, en modifiant par conséquent la façon dont elles collaborent.

Cependant, tout comme les entreprises ont intégré DevOps et DevSecOps lorsque le développement de logiciels et d’applications s’est internalisé, il est crucial que les organisations adoptent une approche similaire pour garantir la sécurité du développement de l’IA. Cela a conduit à l’émergence de l’MLOps et de l’MLSecOps.

L’MLOps, selon Google, est un ensemble de pratiques qui gère le cycle de vie de l’apprentissage automatique tout en rapprochant le développement et les opérations. Sans l’MLOps, une application dépendant de l’IA ou de l’apprentissage automatique pourrait connaître des erreurs accrues, une efficacité réduite et des problèmes de collaboration entre équipes.

D’autre part, l’MLSecOps intègre des pratiques de sécurité et de confidentialité dans le développement de l’apprentissage automatique, jouant ainsi un rôle essentiel pour s’assurer que les processus d’apprentissage automatique et d’IA respectent les normes de gouvernance, de réglementation et de conformité.

Yuval Fernbach, VP et CTO de MLOps chez JFrog, souligne que les organisations qui développent des applications d’IA, notamment génératives, doivent mettre en œuvre l’MLOps et l’MLSecOps lors de la construction de modèles. Il a déclaré : “L’MLOps est une sous-catégorie de DevOps, et les entreprises doivent réfléchir à la manière dont leur processus DevOps peut couvrir les pipelines d’apprentissage automatique”.

Pourquoi les organisations ont besoin de l’MLOps et de l’MLSecOps

Les entreprises qui exploitent des modèles d’apprentissage automatique en production ou qui s’appuient sur tout type d’intelligence artificielle doivent réfléchir à la sécurisation optimale de ces technologies, malgré le fait que peu d’entre elles utilisent actuellement l’MLOps. Fernbach précise : “C’est encore à ses débuts sur le plan technologique, mais déployer l’MLOps est le seul moyen pour les entreprises d’atteindre l’impact de l’apprentissage automatique au sein de leur organisation”.

La conception d’applications intégrant l’apprentissage automatique et l’IA est en effet complexe, impliquant des composants variés. Par exemple, les modèles d’apprentissage automatique nécessitent des données de qualité et une préparation rigoureuse, en plus d’un entraînement, d’une surveillance et d’un réglage de modèle précis. Ils dépendent également de la collaboration entre des équipes diversifiées, telles que les data scientists, les ingénieurs, les développeurs cloud et les équipes de sécurité.

Dilip Bachwani, CTO chez Qualys, a noté lors d’une discussion à QSC2024 en octobre que les erreurs dans la formation des modèles d’apprentissage automatique peuvent avoir des conséquences sévères. Il cite l’exemple d’Air Canada, où un chatbot a fourni incorrectement des informations sur des remboursements, la compagnie étant tenue responsable des données introduites dans le modèle, selon un jugement. “Il est essentiel d’établir des garde-fous autour de vos LLM avant de les déployer”, conseille-t-il.

Avoir une visibilité sur le système d’IA est également impératif. Sans cela, l’organisation risque de perdre le contrôle sur ce que produisent les modèles d’IA. Si différentes équipes ajoutent des données sans supervision, cela crée un système vulnérable et risqué. L’MLOps et l’MLSecOps doivent fonctionner comme des garde-fous, en collaboration avec les équipes DevOps.

Bachwani conclut en affirmant qu’il existe des similitudes dans la manière dont les modèles sont construits et déployés, et qu’il est crucial de penser à cela de manière unifiée. Comme pour les développeurs qui doivent effectuer des vérifications de sécurité avant la mise en ligne, les ingénieurs ML doivent suivre les mêmes étapes pour assurer la sécurité de leurs applications. Dans certains cas, il peut simplement être préférable de revenir à des techniques d’apprentissage automatique plus traditionnelles si cela s’avère être plus adéquat pour leurs besoins.

À l’avenir, les organisations auront probablement un mélange d’apprentissage automatique traditionnel et d’IA générative, tout en intégrant de nouvelles technologies. Le véritable défi réside dans l’adoption de ces technologies tout en veillant à ce que les modèles soient sécurisés et ne créent pas de nouvelles vulnérabilités. La mise en œuvre de l’MLOps et de l’MLSecOps permettra aux équipes d’ingénierie et de sécurité de collaborer pour développer des modèles adaptés aux cas d’utilisation spécifiques et de garantir la conformité nécessaire pour maintenir ces modèles sans faille.