Adopter une Approche Risque pour l’IA : Perspectives de Mayer Brown

Intelligence artificielle : enjeux et risques pour le secteur financier

L’intelligence artificielle (IA) et les technologies émergentes possèdent un potentiel révolutionnaire pour le secteur financier. Cependant, leur utilisation engendre de nouveaux risques qu’il est crucial d’anticiper. Cet article examine les questions de risque associées à l’adoption des outils d’IA au sein des entreprises.

Une adoption encore balbutiante

Alors que de nombreuses entreprises de services financiers ont déjà intégré l’IA dans leurs processus, la majorité d’entre elles se trouvent encore à des étapes préliminaires d’adoption et d’intégration. D’après notre rapport sur les services financiers, plus de 70 % des leaders des institutions financières et plus de 80 % des dirigeants des sociétés d’investissement estiment que l’IA omniprésente exercera un impact significatif sur l’environnement du marché dans les trois prochaines années. Pourtant, moins d’un tiers d’entre eux estiment avoir une stratégie claire et adaptée à l’avenir pour l’IA. 72 % des leaders des institutions financières et 73 % des dirigeants d’entreprises d’investissement constatent que la vitesse du développement de l’IA complique leur capacité d’adaptation.

Un paysage réglementaire en mutation

Selon une enquête de l’Autorité européenne des marchés financiers (ESMA), de nombreuses agences de notation et infrastructures de marché utilisent déjà ou prévoient d’utiliser des outils d’IA générative. Les banques peuvent s’en servir pour leurs processus de décision en matière de crédit, tandis que les compagnies d’assurance pourraient les employer pour établir des offres de règlement de sinistres.

L’IA, malgré ses possibilités d’efficacité accrue, présente également une multitude de risques. Bien que certains d’entre eux ne soient pas nouveaux, leur intensification résulte de l’essor rapide de l’IA :

• Les organisations n’ont souvent pas développé elles-mêmes leurs outils d’IA et manquent de compréhension sur leur fonctionnement, compliquant la gestion des risques.
• Les utilisateurs ont tendance à faire confiance aux résultats des machines (biais d’automatisation), ce qui impose aux organisations de garantir une intervention humaine significative dans la production de résultats.
• De nouvelles réglementations augmentent les exigences existantes, notamment l’Acte sur l’IA de l’UE, qui imposera des restrictions à partir de février 2025 sur certaines fonctionnalités de l’IA.
• Les lois sur la confidentialité des données et la cybersécurité peuvent s’appliquer à l’IA de manière inédite, exposant les organisations à des responsabilités potentielles.

Un cadre de gestion des risques

Pour naviguer dans cet environnement complexe, les organisations doivent adopter une approche de gestion des risques rigoriste :

• Sensibilisation interne : Informer les employés sur l’utilisation de l’IA, ses limites et ses risques.
• Création d’équipes interdisciplinaires : Réunir des experts de divers domaines pour gérer les risques relatifs à l’IA.
• Mise en place de garde-fous : Communiquer des politiques claires sur le développement et l’utilisation des outils d’IA.
• Processus de révision efficace : Instaurer une supervision scrupuleuse des phénomènes générés par l’IA afin de minimiser les erreurs.

Perspectives d’avenir

Avec l’évolution rapide de l’IA, il est essentiel que les entreprises trouvent un équilibre entre ses avantages et ses risques. Cela ne constitue pas une démarche ponctuelle mais un processus continu, nécessitant une collaboration interfonctionnelle et l’expertise d’intervenants de confiance. Une approche intégrée de la gestion des risques liés à l’IA permettra aux organisations de profiter de ses bénéfices tout en limitant les risques de responsabilité, de dommages à la réputation et de contrôles réglementaires.

Points à retenir

• Convergence des risques et des opportunités : L’IA offre des possibilités significatives d’amélioration de l’efficience, mais aussi des défis importants liés à la gestion des risques.
• Réglementations en cours : Des lois telles que l’EU AI Act et celles aux États-Unis imposent des obligations nouvelles aux entreprises utilisant l’IA, engendrant des responsabilités accrues.
• Formation continue : La sensibilisation et la formation des employés sur l’IA et ses implications sont cruciales pour naviguer avec succès dans ce paysage en transformation.

En conclusion, la gestion des risques associés à l’intelligence artificielle nécessite une vigilance constante. Les entreprises doivent rester proactives et adaptatives pour tirer le meilleur parti de cette technologie tout en protégeant leurs intérêts et ceux de leurs clients dans un contexte régulé et en constantes évolutions.