Un rapport récent de la société d’intelligence artificielle souligne les menaces potentielles liées à l’utilisation de l’IA pour la création d’armes biologiques.
Dans un rapport publié récemment, Anthropic a affirmé avoir stoppé des tentatives d’utilisation de ses modèles d’intelligence artificielle dans le but de développer des armes biologiques. Plusieurs chercheurs auraient tenté d’exploiter les produits de cette entreprise pour de telles fins. Ce rapport a été diffusé peu après les déclarations alarmantes d’un ancien employé, Jacob Coxon, qui a ravivé les inquiétudes sur le potentiel destructeur de l’IA.
Une frontière délicate
Il semblerait qu’il existe une frontière très fine entre l’utilisation bienveillante de l’IA et ses dérives. Jacob Klein, responsable de l’intelligence sur les menaces chez Anthropic, note que « ce n’est pas un méchant de bande dessinée qui déclare vouloir créer des armes biologiques ». Selon Anthropic, il est difficile de déterminer si les recherches en question étaient légitimes car une investigation biologique peut conduire à des découvertes utiles, comme des traitements vitaux, mais aussi à des pathogènes dangereux.
Le rapport d’Anthropic recense divers abus observés au cours des huit derniers mois vis-à-vis de ses modèles, comme Claude. Ces incidents ne sont pas sans précédent. Anthropic avait déjà alerté sur de possibles utilisations à des fins de surveillance par des entités associées aux gouvernements chinois et iranien. De plus, des médias d’État russes auraient utilisé Claude pour produire de la propagande sous couvert de journalisme indépendant, ainsi que pour diffuser de fausses informations sur les élections en Moldavie. D’autres tentatives comprenaient l’usage des outils pour développer des logiciels liés à la conception d’armements.
D’après le New York Times, la société fondée par les frères Amodei n’a pas précisé les groupes qui auraient tenté de tirer parti de ses systèmes, bien qu’il soit soupçonné que la milice Houthi pourrait être impliquée dans certaines démarches au Yémen. Cette question n’est pas sans lien avec une étude de l’université de Cambridge révélant que des factions comme Boko Haram auraient également recours à l’IA pour divers objectifs, y compris la planification d’attaques.
Les risques biologiques sous-estimés
Récemment, les incidents liés à l’informatique ont dominé les discussions, tandis que les risques biologiques ont été moins évoqués, malgré leur mention dans le rapport d’Anthropic. Ce dernier rappelle que certains chercheurs ont contourné les contrôles de sécurité mis en place pour limiter l’accès à des utilisateurs provenant de zones sensibles.
Bien que la nature réelle de leurs recherches soit méconnue, ces chercheurs auraient tenté de masquer l’objectif de leur travail pour éviter les mesures de sécurité. Parmi les projets préoccupants, un scientifique a sollicité Claude pour rédiger une demande de financement en vue de mener des expériences sur le virus Chikungunya, lequel pourrait, selon les circonstances, être utilisé pour créer un vaccin ou, au contraire, des versions plus virulentes du virus.
L’objectif de cette recherche était d’introduire des mutations dans le virus pour accroître sa virulence via des infections répétées sur des animaux vivants. Anthropic a également indiqué que ce travail devait avoir lieu dans un institut de recherche militaire. Jacob Klein exprime son inquiétude sur le fait qu’un établissement militaire s’engage dans des recherches visant à augmenter la fonctionnalité d’un virus.
Suite aux inquiétudes soulevées par cet ancien chercheur, un débat a émergé sur X, avec même l’intervention d’Elon Musk, qui a évoqué la possibilité de manipulations psychologiques pour influencer l’opinion publique. D’autres avancent qu’il pourrait s’agir d’une simple opération de marketing, mais on peut se demander pourquoi une société ferait un tel choix avant une introduction en bourse.
Les modèles d’IA plus anciens n’étaient pas adaptés à des tâches complexes, mais les derniers développements pourraient effectivement avoir des impacts stratégiques dans des recherches potentiellement dangereuses. Bien que cela puisse offrir des bénéfices, il est évident que cela soulève des incertitudes, plus encore que les tentatives répréhensibles d’utiliser l’IA pour des fins malveillantes.
Points à retenir
- Anthropic a bloqué des tentatives d’utilisation de ses modèles d’IA pour développer des armes biologiques.
- Les recherches en biologie peuvent comporter des risques tant pour l’humanité que pour la sécurité mondiale.
- Des groupes gouvernementaux pourraient tenter d’exploiter l’IA pour des buts de surveillance ou d’agression.
- Le débat public autour de l’IA et de ses dangers pourrait être influencé par des motivations diverses.
- La frontière entre bénéfices et risques de l’IA reste mince et soulève des questions éthiques importantes.
Pour moi, cette situation soulève une réflexion cruciale sur l’évolution de notre rapport avec l’intelligence artificielle. Sommes-nous prêts à aborder les implications éthiques et sociétales de ces technologies ? L’IA pourrait-elle devenir non seulement un outil de progrès, mais également un vecteur de dangers insoupçonnés ? L’avenir semble incertain, et nous avons tout intérêt à engager le dialogue sur ces enjeux. Il est primordial de prendre conscience des choix que nous faisons aujourd’hui, car ils façonneront le monde de demain.