Lors de la récente réunion du Fonds Monétaire International à Washington, la cybersécurité a une fois de plus suscité des débats passionnés. Ce qui a captivé l’attention des ministres des Finances et des régulateurs, c’est Mythos, la nouvelle intelligence artificielle (IA) d’Anthropic. Andrew Bailey, gouverneur de la Banque d’Angleterre, n’a pas mâché ses mots : « C’est une menace sérieuse pour tous. Cela montre à quel rythme évolue le domaine de l’IA. » Le ministre des Finances canadien, François-Philippe Champagne, a ajouté : « Cela mérite indéniablement l’attention des ministres des Finances. Contrairement à la situation géopolitique, la menace de l’IA est moins tangible mais tout aussi préoccupante. » En effet, le caractère imprévisible de Mythos laisse planer une grande inquiétude.
L’aventure a commencé le 7 avril quand Anthropic a annoncé une nouvelle version de Claude, nettement plus performante. Mythos, a-t-elle révélé, n’est pas encore prête à être lancée en raison des inquiétudes liées à la sécurité que suscite cette technologie. L’entreprise a alerté sur le fait que ces modèles d’IA possèdent désormais une capacité à découvrir et exploiter les vulnérabilités du logiciel que même les experts humains peinent à égaler. Les conséquences pour la sécurité nationale et la sûreté publique pourraient être préoccupantes.
En effet, Mythos pourrait détecter des failles dans divers secteurs, y compris la finance. Certaines de ces failles, connues sous le nom de vulnérabilités « jour zéro », peuvent être anciennes de plusieurs décennies, offrant ainsi un terrain de jeu conséquent pour les cybercriminels. Ce constat a été mis en lumière par Jose Ignacio Latorre, physicien quantique et directeur du Center for Quantum Technologies à Singapour, qui souligne le danger que représente ce type d’IA.
Dans un geste de transparence inhabituel dans le secteur technologique, Anthropic a aussi lancé le projet Glasswing, permettant à un groupe restreint d’entreprises de tester la technologie pour améliorer leur sécurité. Latorre note qu’« Anthropic montre une responsabilité supérieure à d’autres entreprises. Pour une fois, l’innovation est mise au service de la sécurité.
Cette semaine, le Banque Centrale Européenne a exigé des grandes institutions financières d’Europe qu’elles établissent rapidement des plans pour contrer les cybermenaces. Christine Lagarde a souligné qu’Anthropic représente un exemple de responsabilité que toutes les entreprises devraient suivre.
Cependant, il ne suffit pas seulement de détecter les problèmes. Il est également crucial de savoir comment les résoudre. Les entreprises souffrent d’une faiblesse structurelle en matière de cybersécurité, utilisant souvent des systèmes obsolètes. Latorre avertit que le désengagement dans ce domaine aura des conséquences de plus en plus graves.
Mythos pourrait être utilisé à des fins malveillantes, facilitant un vol massif de données ou la prise de décisions sans intervention humaine. Cependant, des experts affirment que le secteur financier est mieux préparé que d’autres pour faire face à de telles menaces grâce à des départements robustes de cybersécurité.
L’émergence de modèles avancés d’IA comme Mythos ne fait qu’accélérer la nécessité pour les institutions financières de rester vigilantes et de renforcer leurs systèmes de sécurité. Malgré la préparation du secteur, Latorre souligne que la menace ne se limite pas à Mythos, mais s’étend également à d’autres technologies émergentes.
Points à retenir
- Mythos, l’IA d’Anthropic, soulève des inquiétudes majeures quant à la cybersécurité, alertant les ministres des Finances.
- La technologie pourrait exposer des vulnérabilités « jour zéro », exploitables par des cybercriminels.
- Le projet Glasswing permet à certaines entreprises de tester l’IA pour renforcer leur défense.
- Le secteur financier est relativement mieux préparé pour affronter les cybermenaces grâce à des mécanismes de sécurité avancés.
- La menace quantique, distincte de l’IA, pourrait compromettre les systèmes de sécurité traditionnels si des mesures ne sont pas prises rapidement.
Ce sujet soulève des interrogations cruciales sur l’avenir de notre cybersécurité et l’impact de l’IA sur la stabilité de la société. En tant qu’observateur passionné de ces enjeux, il est difficile de ne pas se demander si nous sommes prêts à affronter ces défis sans précédent. Cela nécessite une mobilisation collective pour anticiper les menaces et évoluer avec elles. La véritable question réside donc dans notre capacité à transformer ces menaces en opportunités de progrès sécuritaire.