Dans un bar à vin près des bureaux d’OpenAI à San Francisco, les entrepreneurs du secteur biotechnologique Hannu Rajaniemi et Nikolai Eroshenko exprimaient leurs craintes, mais aussi leur enthousiasme. Les avancées rapides de l’intelligence artificielle (IA) pourraient, selon eux, permettre à des terroristes ou des États malveillants de créer de nouvelles armes biologiques redoutables. C’est alors qu’ils ont eu l’idée de proposer à OpenAI un projet innovant : utiliser l’IA pour concevoir des contre-mesures face à ces armes biologiques, tout en s’attaquant à d’autres problèmes de santé.
Aujourd’hui, leur startup de biosécurité, Red Queen Bio, s’active à concevoir des anticorps pouvant être produits à grande échelle pour lutter contre divers pathogènes, y compris la menace apparemment futuriste d’un virus conçu par IA. L’entreprise, qui bénéficie d’OpenAI comme investisseur majeur, a récemment levé 36 millions de dollars. Des essais cliniques sur des humains de leurs médicaments anticorps contre l’influenza aviaire et d’autres virus de la même famille sont programmés pour l’année prochaine.
Le risque que l’IA menace la civilisation
Avec l’amélioration des capacités de l’IA et l’augmentation des incidents liés à des systèmes d’IA incontrôlés, les craintes d’une menace pour la civilisation se sont intensifiées. Les réponses à ce phénomène se sont souvent concentrées sur la prévention des dangers, à travers des mesures telles que le ralentissement des recherches sur l’IA ou l’établissement de normes pour limiter les abus. Red Queen Bio considère qu’il est essentiel de se préparer à d’éventuelles défaillances de ces protections.
« Nous souhaitons favoriser des développements positifs », a déclaré Rajaniemi, évoquant l’idée née lors de cette rencontre en 2025. « Si nous détruisons la civilisation, nous ne pourrons pas réaliser nos ambitions. »
Bien que certains observateurs jugent le danger des armes biologiques basées sur l’IA exagéré, les principaux concepteurs d’IA reconnaissent que les risques associés à leurs outils augmentent. L’année dernière, OpenAI a signalé avoir détecté des centaines d’utilisateurs tentant de poser des questions sur la fabrication et la diffusion de poisons et d’armes biologiques, comme des pathogènes aérosolisés et des variantes modifiées du virus de la rougeole.
Ce mois-ci, Anthropic a signalé des tentatives d’utilisation de son chatbot Claude pour développer une variante dangereuse de l’influenza aviaire adaptée aux mammifères, avec un « potentiel pandémique accru ». Un utilisateur affilié à un institut de recherche militaire a demandé comment rendre le virus chikungunya plus virulent ; un autre a interrogé Claude au sujet de virus apparentés au variole.
« Cela suscite un certain émerveillement », a déclaré Rajaniemi, « lorsque l’on se rend compte que le monde est sur le point de s’étendre au-delà de tout ce que nous connaissons, face à cette immensité. »
Des facteurs dans la dynamique de la guerre biologique favorisent les attaquants par rapport aux défenseurs, a noté Olivia Scharfman, chercheuse en biotechnologie à l’Institute for Progress, un think tank financé par Open Philanthropy, un fervent défenseur de la sécurité de l’IA. « Les attaquants disposent de tout le temps nécessaire pour développer une arme biologique. Nous n’avons pas plusieurs années pour élaborer une contre-mesure », explique Scharfman.
La réponse à la Covid-19 illustre que même un effort fortement accéléré pour développer et distribuer un nouveau vaccin peut prendre jusqu’à neuf mois.
Un projet à grande échelle
Red Queen Bio appartient à un secteur émergent de startups se consacrant à la biosécurité à l’ère de l’intelligence artificielle. Deux dirigeants d’Anthropic ont investi dans Pilgrim, une startup soutenue par Peter Thiel, qui travaille sur des dispositifs pour détecter les virus dans l’air. SecureBio, une organisation à but non lucratif, surveille les eaux usées et les prélèvements nasaux pour prévenir les attaques biologiques. Perimeter construit des infrastructures pour surveiller les signaux biologiques et fournir des alertes précoces sur les menaces. Valthos développe des systèmes d’IA pour détecter, caractériser et atténuer les menaces biologiques émergentes.
Les fondateurs de Red Queen Bio, titulaires d’un doctorat en physique mathématique et en bioingénierie, se concentrent sur le développement de médicaments à base d’anticorps car ils pourraient offrir une protection efficace contre de larges groupes de virus, y compris des virus encore non émergés. L’entreprise conçoit également des anticorps capables de se lier plus fermement à leurs cibles. « Plus le lien est fort, moins il en faut », a souligné Eroshenko, le PDG. « Cela permet d’obtenir une solution scalable. »
Les anticorps sont des protéines essentielles qui contribuent à neutraliser un virus. Après une infection ou une vaccination, le système immunitaire commence à produire des anticorps spécifiques qui se lient aux pathogènes, offrant ainsi une immunité active pouvant durer des années. L’injection d’anticorps peut offrir une protection temporaire ou aider le système immunitaire à combattre une infection déjà en cours.
Rajaniemi, directeur exécutif de l’entreprise, a partagé que son intérêt pour le système immunitaire remonte à 2012, quand sa mère a subi une récidive de son cancer du sein, moment où il a découvert que le système immunitaire surveille constamment la présence de cellules anormales.
Il a ensuite publié un roman de science-fiction intitulé Darkome, où la bio-ingénierie basée sur l’IA permet des attaques biologiques, et où les personnages utilisent des technologies génétiques pour développer des traitements contre le cancer et d’autres maladies.
Une vision pour l’avenir
Rajaniemi a rencontré Sam Altman pour la première fois en 2016, alors que le dirigeant d’OpenAI collaborait avec l’incubateur de startups Y Combinator, moments durant lesquels ils avaient échangé sur les pandémies. Par la suite, Altman a fait un investissement personnel dans Helix Nano, la première entreprise où Eroshenko et Rajaniemi ont collaboré.
Le nom Red Queen Bio fait référence au personnage du conte Attraverso lo specchio de Lewis Carroll, qui dit à Alice qu’elle doit courir sans cesse pour rester au même endroit. En biologie, l’« hypothèse de la Reine Rouge » évoque la nécessité d’adaptation constante des espèces pour suivre le rythme des compétiteurs en évolution.
En 2025, Red Queen Bio a levé 15 millions de dollars d’un groupe comprenant OpenAI, Cerberus Ventures et d’autres fonds philanthropiques axés sur la sécurité de l’IA. Cette année, OpenAI a réalisé un investissement de suivi significatif, en collaboration avec d’autres partenaires. News Corp, propriétaire du Wall Street Journal, a formé un partenariat avec OpenAI pour la mise à disposition de contenus.
En plus de son travail sur les anticorps, Red Queen Bio continue de travailler directement avec OpenAI. L’entreprise participe à des activités de red-teaming avec d’autres sociétés d’IA, un processus visant à tester les réactions des chatbots à des demandes potentiellement dangereuses. Elle a également discuté de stratégies de gestion des biorisques avec Jason Kwon, le directeur de la stratégie chez OpenAI.
Actuellement, dans un laboratoire de biotechnologie à Boston, les chercheurs de Red Queen Bio testent des échantillons d’anticorps antigrippaux et intègrent les résultats dans leurs modèles d’IA. Ces données optimisent les modèles, qui à leur tour conçoivent des anticorps de plus en plus efficaces.
Red Queen Bio se concentre sur les virus influenzaux identifiés comme des priorités par les autorités sanitaires, notamment en raison du potentiel des systèmes d’IA à faciliter leur modification. Dans les mois à venir, l’entreprise prévoit de développer des anticorps contre les coronavirus, les virus apparentés à ceux d’Ebola, les virus transmis par les chauves-souris, et d’autres menaces potentielles. Un projet en cours vise aussi à renforcer la réponse immunitaire face aux virus respiratoires.
L’ambition est d’un jour intégrer les anticorps de Red Queen Bio dans les réserves stratégiques des États-Unis et d’Europe, tout en concevant et produisant de nouveaux anticorps avec la rapidité requise pour répondre aux menaces émergentes. Rajaniemi souligne que la diversité des récepteurs que le système immunitaire peut mobiliser pour répondre aux agents pathogènes est immense. « Ce n’est pas la biologie qui fixe les limites », affirme-t-il. « La limite, c’est notre intelligence. »
Points à retenir
- Red Queen Bio développe des anticorps pour lutter contre des menaces biologiques émergentes.
- Les avancées en IA posent des risques accrus, notamment en termes de bioterrorisme.
- L’entreprise propose une préparation face à des scénarios de défaillance des systèmes de sécurité IA.
- Des chercheurs collaborent pour optimiser les modèles d’IA en matière de biotechnologie.
- Les anticorps offrent une voie prometteuse pour des défenses immunitaires modulables.
En réfléchissant à ces problématiques, je suis frappé par l’urgence d’une approche proactive dans la lutte contre les menaces biologiques. L’innovation technologique, bien qu’elle comporte des risques, ouvre également une voie vers un avenir plus sécurisé et résilient. Le débat sur l’éthique de la technologie et son utilisation dans la santé publique mérite d’être approfondi. La responsabilité incombe à la communauté scientifique et à nous tous de veiller à ce que ces avancées soient mises à profit pour le bien-être général.