Powell et Bessent tirent la sonnette d’alarme sur les risques systémiques des modèles d’IA avancée

Les régulateurs américains se réunissent avec des grandes banques pour discuter des risques cybernétiques liés à l’intelligence artificielle, soulignant une préoccupation croissante sur les vulnérabilités systémiques.

Résumé des discussions

• Le secrétaire au Trésor, Scott Bessent, et le président de la Réserve fédérale, Jerome Powell, ont tenu une réunion d’urgence avec les grandes banques.
• Les discussions se sont concentrées sur les risques cybernétiques associés à un modèle d’IA avancé, connu sous le nom de « Mythos ».
• Ce modèle est réputé capable d’identifier et d’exploiter des vulnérabilités dans les logiciels et infrastructures largement utilisés.
• Les régulateurs considèrent les menaces cybernétiques alimentées par l’IA comme un risque majeur pour la stabilité financière.
• Les banques jugées systématiquement importantes ont été incitées à renforcer leurs défenses.
• Un déploiement contrôlé via le « Project Glasswing » a été prévu pour limiter l’exposition aux risques.
• Ce phénomène met en lumière l’intersection émergente entre les capacités de l’IA et le risque financier systémique.

Les autorités financières américaines ont réagi rapidement face à une menace grandissante à l’intersection entre intelligence artificielle et stabilité financière, en organisant une réunion urgente avec des grandes banques de Wall Street pour évaluer les risques cybernétiques émergents.

Scott Bessent et Jerome Powell ont rassemblé des dirigeants de banques majeures à Washington, soulignant le sérieux avec lequel les régulateurs abordent la question. Le modèle “Mythos”, considéré comme doté de capacités avancées pour identifier et exploiter des vulnérabilités, a dominé les discussions.

Cette rencontre, organisée en peu de temps, illustre une préoccupation croissante concernant l’impact des outils d’IA sophistiqués sur le paysage des menaces cybernétiques. Les régulateurs redoutent que ces systèmes, s’ils sont mal utilisés, puissent permettre des attaques plus efficaces et évolutives sur les institutions financières, augmentant ainsi le risque de perturbations systémiques.

Toutes les banques concernées sont jugées systématiquement importantes, ce qui implique qu’une compromission de leurs systèmes pourrait avoir des répercussions importantes sur le système financier dans son ensemble. En réunissant ces institutions, les décideurs politiques visent à orchestrer une réponse coordonnée et préventive plutôt que de réagir une fois les vulnérabilités exploitées.

Les préoccupations ne relèvent pas du simple discours théorique. Les développeurs du modèle ont reconnu ses capacités offensives et défensives en matière de cybersécurité et ont restreint son accès à un groupe restreint de grandes entreprises technologiques et financières, dans le cadre d’un déploiement contrôlé visant à renforcer la résilience des systèmes avant une diffusion plus large.

Cette initiative, dénommée « Project Glasswing », vise à garantir que les infrastructures critiques soient renforcées avant que des technologies similaires ne deviennent plus largement accessibles. Cela souligne la reconnaissance croissante que les avancées en IA ne sont pas uniquement des améliorations de productivité, mais introduisent également de nouvelles classes de risques.

Cette question recoupe également des tensions plus larges entre le secteur technologique et les décideurs. La société derrière le modèle serait engagée dans un litige avec les autorités américaines concernant sa classification en tant que risque de chaîne d’approvisionnement, mettant en évidence l’environnement réglementaire complexe entourant le développement d’IA de pointe.

Dans l’ensemble, cet épisode marque un changement de focus pour les régulateurs. Les risques de cybersécurité liés à l’IA sont désormais perçus non seulement comme des préoccupations opérationnelles, mais comme des menaces potentielles à la stabilité financière elle-même.