Un rapport de renseignement distribué au sein des Forces armées américaines a suscité des inquiétudes cette année, en pleine guerre avec l’Iran. Un navire chinois, naviguant au Moyen-Orient, transportait des composants d’un programme d’armement nucléaire.
En réponse, les États-Unis avaient prévu d’intercepter le bateau, impliquant des membres armés des forces américaines prêts à monter à bord. Des avions militaires étaient également en mission dans la zone concernée.
Cependant, lors des préparatifs pour cette opération, les responsables ont découvert que le rapport avait été élaboré avec l’aide d’intelligence artificielle. Un chatbot utilisé par l’analyste avait mal identifié le matériel transporté par le navire. La nature de la cargaison erronément identifiée n’est pas précisée.
Ce rapport a été qualifié de “complet faux” par une source, tout en mentionnant qu’il aurait “presque provoqué une guerre”, le moindre acte contre un navire chinois risquant d’entraîner un conflit armé entre les deux nations.
Au sein des Forces armées et de la communauté du renseignement, il y a une volonté forte d’intégrer l’intelligence artificielle dans divers aspects opérationnels. Cela va de l’analyse des vastes quantités de renseignements à la désignation d’objectifs pour des attaques, en passant par la gestion des budgets et de la logistique.
Néanmoins, cet incident met en lumière les risques inhérents à l’utilisation d’une technologie puissante, mais encore mal comprise, dans des contextes de conflit. Les analystes craignent qu’un recours excessif à des données erronées ou manipulées puisse conduire à des erreurs fatales.
Dans ce cas, l’analyste avait consulté un chatbot pour des informations sur la cargaison du navire, et il n’est pas clair si cet outil était commercial ou développé par le gouvernement américain.
Un ancien responsable a déclaré que les outils internes utilisés sont souvent de simples copies des versions commerciales, peaufinées pour répondre aux besoins spécifiques du gouvernement.
Le chatbot a croisé des informations de sources ouvertes avec des données secrètes et a abouti à une conclusion erronée sur le contenu du navire. L’analyste a ensuite utilisé cette information pour rédiger un rapport standard de renseignement diffusé aux militaires.
Cette situation illustre aussi la rapidité d’adoption de l’IA, considérée comme un outil essentiel pour la prise de décisions rapides sur le champ de bataille, en vue de ne pas se laisser distancer par d’éventuels adversaires.
En janvier, le secrétaire à la Guerre a annoncé une stratégie visant à renforcer l’utilisation de l’IA au sein des Forces armées, soulignant la nécessité d’éliminer les barrières bureaucratiques et d’accélérer l’expérimentation.
Toutefois, les efforts d’intégration sont disséminés à travers le gouvernement, chaque entité ayant ses propres outils et normes. Cela entraîne des disparités dans la fiabilité et l’efficacité des systèmes déployés.
Récemment, un débat intense a eu lieu à Washington autour des implications de l’IA, après des avertissements de dirigeants technologiques sur la menace que représente un tel progrès débridé. Cette situation soulève des questions sur la responsabilité en cas d’erreurs basées sur des données défaillantes.
Le cas du navire chinois met également en lumière un danger plus imminent : des décisions potentiellement désastreuses fondées sur des informations trompeuses produites par l’IA. Les militaires pourraient se retrouver à élaborer des stratégies fatales en se basant sur des indications erronées.
Actuellement, les lignes directrices concernant l’interaction humaine dans le processus décisionnel lié à la sélection des cibles font défaut. Une source préoccupée a déclaré que l’augmentation de l’utilisation de l’IA dans ce domaine pose un risque direct pour la vie humaine.
Les incidents d’« hallucination » des systèmes d’IA ne sont pas uniques et se multiplient, exerçant une pression sur les analystes pour qu’ils produisent des rapports encore plus rapidement. Certains jeunes analystes, étant de véritables natifs numériques, ont tendance à faire confiance aveuglément à ces outils.
Selon une source, l’IA pourrait même faciliter l’adoption rapide de mauvaises décisions.
Points à retenir
- Les nouvelles technologies comme l’IA offrent un potentiel mais comportent des risques significatifs, notamment des erreurs dans le domaine du renseignement.
- Les opérations militaires reposent de plus en plus sur des décisions basées sur des algorithmes, soulevant des questions éthiques et pratiques.
- Il est essentiel de mettre en place des lignes directrices claires pour intégrer l’IA dans les processus décisionnels afin de minimiser les erreurs.
- La coopération et l’harmonisation des technologies entre différentes agences pourraient améliorer la fiabilité des opérations basées sur l’IA.
- Des délais dans l’adoption d’une régulation robuste sur l’IA pourraient entraîner des conséquences à long terme pour la paix et la sécurité mondiale.
En réfléchissant à ces enjeux, je me demande jusqu’où nous pouvons raisonnablement nous fier à la technologie dans des contextes critiques. N’est-il pas impératif d’allier innovation et prudence ? Cette question devrait nourrir nos discussions futures sur l’intelligence artificielle et sa place dans le monde complexe des relations internationales.