76 000 séquences d’ADN générées par IA testées pour la biosécurité
La question se pose : quelles sont les capacités des systèmes de contrôle face aux menaces biologiques générées par l’intelligence artificielle (IA) ? Les programmes de biosécurité actuels sont-ils en mesure d’identifier des instructions génétiques susceptibles de créer des protéines toxiques ? C’est ce qu’a examiné une équipe dirigée par Wittmann. « Nous avons utilisé trois modèles open-source spécialisés en synthèse de protéines pour générer environ 76 000 variantes synthétiques de 72 protéines toxiques différentes », explique-t-il. Parmi celles-ci, on trouvait à la fois des toxines et des virus.
Suite à cela, ils ont soumis ces séquences d’ADN potentiellement dangereuses à quatre entreprises spécialisées dans les programmes de biosécurité, qui ont examiné toutes les séquences pour évaluer les risques.
Des systèmes dépassés par les modifications génétiques
Les résultats du test montrent que si les programmes de détection parviennent à identifier la majorité des séquences proches de leurs homologues naturels, ils échouent face à des modifications plus importantes. « Les systèmes de biosécurité n’ont pas réussi à identifier de manière fiable les séquences présentant des gènes de protéines potentiellement nuisibles », rapportent Wittmann et son équipe. Même après que trois des quatre entreprises aient modifié leurs systèmes pour améliorer leur efficacité, aucune ne parvenait à identifier correctement tous les protéines aux valeurs in-silico élevées, c’est-à-dire fortement modifiées. En particulier, les séquences d’ADN qui ressemblent à des gènes inoffensifs mais présentent des différences critiques étaient particulièrement difficiles à détecter.
Des protections insuffisantes face aux nouvelles menaces
Selon les chercheurs, ce test illustre le potentiel, mais aussi les dangers associés aux gènes et protéines générés par IA. « À long terme, un dépistage basé sur les séquences ne sera probablement pas suffisant », notent Wittmann et ses collègues. « À l’avenir, des systèmes d’IA spécialisés dans la conception de protéines généreront des séquences d’ADN qui ne ressemblent plus à aucun modèle naturel. »
Il est donc crucial que les scientifiques, les entreprises et les décideurs politiques développent des mesures de protection contre ces nouvelles menaces. Des engagements existent déjà pour interdire le développement de produits biotechnologiques potentiellement nuisibles, mais les instances gouvernementales devront peut-être intensifier leurs efforts, commente Dirk Lanzerath, directeur du Centre allemand d’éthique dans les sciences biologiques (DRZE) à Bonn, qui n’était pas impliqué dans l’étude.
Lanzerath attire également l’attention sur les aspects éthiques de recherche liée à la sécurité et aux problématiques de « double usage ». Dans un contexte mondial où les risques abusifs d’utilisation sont élevés, un échange international sur les normes, leur application et l’harmonisation est essentiel.
Un « Zero Day » biologique
Cependant, Wittmann et son équipe soulignent que ces séquences d’ADN potentiellement dangereuses ne signifient pas nécessairement que des acteurs malveillants peuvent produire les protéines et toxines codées. La dangerosité, la stabilité et l’applicabilité de ces productions comme armes biologiques ne sont pas assurées. Les chercheurs jugent ces séquences si risquées qu’ils ont décidé de les garder confidentielles, n’en donnant accès qu’après un processus rigoureux de validation par l’Initiative internationale de biosécurité en sciences (IBBIS).
« Nous avons choisi de traiter cette vulnérabilité des systèmes de biosécurité comme une version biologique d’un ‘Zero Day' », déclarent-ils. Dans le secteur de l’IT, un Zero Day désigne une faille de sécurité nouvellement découverte.
Points à retenir
- 76 000 séquences d’ADN d’IA ont été créées pour évaluer les systèmes de biosécurité.
- Les programmes de détection échouent à identifier les séquences fortement modifiées.
- Une collaboration entre scientifiques, entreprises et régulateurs est essentielle pour faire face aux nouvelles menaces posées par l’IA.
- Les gènes d’IA pourraient produire des séquences dépourvues de référence naturelle.
- Des préoccupations éthiques liées à l’utilisation de l’IA en recherche doivent être abordées.
En observant l’ampleur et les enjeux soulevés par cette étude, je ne peux m’empêcher de réfléchir à l’avenir de la biotechnologie face à des avancées technologiques si rapides. La capacité de l’IA à générer des séquences d’ADN soulève non seulement des questions sur la sécurité, mais également sur l’éthique. Oui, ces innovations promettent des possibilités extraordinaires, mais elles comportent aussi des risques que nous ne maîtrisons pas encore complètement. La discussion est ouverte : comment trouver l’équilibre entre progrès scientifique et sécurité collective ?