L’intelligence artificielle générative s’impose comme un outil puissant en biologie, notamment pour la création de nouvelles versions de molécules fondamentales. Cependant, des scientifiques mettent en garde : l’accès facile à ces technologies présente des risques nécessitant une réflexion urgente sur des mesures de biocontrôle.
Dès 2024, le lauréat du prix Nobel David Baker de l’Université de Washington, créateur du modèle RoseTTAFold qui prédit la structure des protéines à partir de séquences d’acides aminés, ainsi que le généticien George Church de Harvard, avaient souligné l’importance d’intégrer des “codes-barres” dans les séquences génétiques des nouvelles protéines afin de tracer leur origine.
Cependant, une étude récente menée par Microsoft montre que ces mesures semblent insuffisantes. Les séquences génétiques générées par IA contournent souvent les systèmes de biocontrôle existants. Les logiciels d’analyse de l’ADN ont du mal à identifier des séquences dangereuses si elles contiennent des fragments jugés “sûrs”.
Les auteurs de cette nouvelle étude appellent à établir une stratégie globale de biocontrôle avant qu’un incident regrettable ne se produise. L’IA est désormais capable de concevoir non seulement des protéines, mais aussi des ARN, ainsi que des cellules et des tissus entiers. Les modèles comme RFdiffusion2 et PocketGen permettent, par exemple, de créer des protéines au niveau atomique pour des applications spécifiques, comme déclencher des réactions biologiques ou se lier à des médicaments. La thérapie par ARN est prometteuse, n’affectant pas le code génétique, mais la mise au point de médicaments à base d’ARN reste complexe en raison des particularités de la structure tridimensionnelle des molécules.
Les chercheurs ont démontré que ces algorithmes peuvent être utilisés pour produire des matériaux biologiques potentiellement dangereux. Dans un des tests, des modèles d’IA ont conçu des protéines toxiques qui ont réussi à contourner les systèmes de biocontrôle. Dans un autre cas, un algorithme conçu pour identifier des molécules antivirales a proposé un neurotoxine connue comme potentielle solution thérapeutique.
Pour résoudre ces défis, des règlements stricts ainsi qu’une supervision à chaque étape de l’utilisation de l’IA en biologie sont indispensables. En Grande-Bretagne, des recommandations ont déjà été publiées pour le contrôle de la synthèse de l’ADN, tandis qu’aux États-Unis, la biocontrôle est désormais une composante intégrale du développement de modèles IA en biotechnologie. Les entreprises technologiques annoncent également leur volonté d’éliminer toutes séquences virales potentiellement dangereuses de leurs bases de données d’entraînement et de procéder à des vérifications rigoureuses de leurs nouvelles créations.
Les chercheurs préconisent la mise en place d’un système de protection multicouche, englobant le contrôle d’accès aux données, un apprentissage supervisé des modèles et des tests de résistance pour déceler les vulnérabilités. Selon eux, une stratégie de biocontrôle efficace doit faire office de “gardien vivant”, capable de s’adapter aux nouvelles menaces.
Points à retenir
- L’IA générative est utilisée pour créer des molécules biologiques, mais son accès pose des questions éthiques.
- Des codes-barres génétiques pourraient aider à retracer l’origine des nouvelles protéines.
- Les systèmes de biocontrôle actuels ont des failles qui pourraient être exploitées.
- Les entreprises technologiques prennent des mesures pour améliorer la sécurité des données génétiques.
- Un système de biocontrôle doit évoluer pour rester efficace face à de nouvelles menaces.
Sur ce sujet, il est fascinant de constater à quel point l’innovation peut à la fois ouvrir des portes et en même temps soulever des inquiétudes. L’intelligence artificielle, un outil tant admiré pour ses applications prometteuses, appelle aussi à une vigilance accrue. En tant que passionné de science et de technologie, je crois sincèrement que la discussion autour de la biocontrôle doit s’intensifier, car l’avenir de notre biologie pourrait dépendre de la façon dont nous gérons ces récents développements. Quelles mesures devrions-nous donc mettre en place pour garantir que nous utilisons ces outils de manière éthique et responsable ? Cette question mérite d’être débattue. Cela nous conduit à réfléchir à la responsabilité collective que nous avons envers la société et la nature.