Aujourd’hui, ceux qui sont responsables de l’engagement militaire de la force ont la capacité de transférer cette responsabilité aux machines, en les intégrant dans les « procédures d’engagement ».
Les avancées technologiques vont bien au-delà des missiles de précision. Nous assistons à l’émergence de drones en essaims difficiles à intercepter, de tueurs aériens capables de suivre un soldat jusqu’à sa tranchée, ainsi que de canons-robots. Ces nouvelles technologies, telles que les drones qui perturbent le trafic maritime et ceux qui mènent des opérations de sabotage, sont désormais relativement accessibles pour ceux qui maîtrisent l’intelligence artificielle (IA). Depuis l’avènement des modèles linguistiques comme ChatGPT, leur utilisation a explosé, notamment dans des contextes de conflits. Rappelons, à titre d’exemple, les explosions simultanées des appareils de milliers d’Hezbollah au Liban, attribuées au Mossad.
Flux d’information
Avec la généralisation des modèles d’IA dans divers domaines, y compris les activités militaires, l’adoption de technologies avancées comme Claude d’Anthropic dans les opérations secrètes des forces armées américaines devient cruciale pour la sécurité. Cette technologie, bien que facilitant le travail des stratégistes, semble également devenir un assistant encombrant, capable d’analyser en quelques secondes des volumes de données provenant de multiples sources, transformant cette information en planification logistique et en simulations de scénarios.
Dans notre utilisation quotidienne de la technologie, nous avons longtemps été séduits par la promesse d’une vie améliorée grâce à Internet. Cependant, cela a engendré davantage d’inégalités et un bruit informationnel croissant, rendant le paysage médiatique difficile à naviguer. La révolution qu’a provoquée cette technologie a profondément modifié les relations sociales et même les sphères politiques et personnelles.
Cette frustration est accentuée par le fait que, alors que nous ignorions les risques, les créateurs de ces technologies en étaient conscients. Facebook, par exemple, a longtemps caché les dangers de la dépendance aux réseaux sociaux, tandis que des figures influentes de la Silicon Valley restreignaient l’accès à leurs enfants. Cela souligne une dichotomie troublante entre ceux qui développent la technologie et les utilisateurs.
Aujourd’hui, alors que l’IA transforme jusqu’à la manière dont les conflits sont menés, nous risquons de reproduire des erreurs du passé avec des conséquences potentiellement dévastatrices pour nos libertés individuelles.
La controverse
Cette situation illustre la tension entre le Pentagone, qui représente un pouvoir démocratiquement élu, et les entreprises privées, comme Anthropic. Dario Amodei, dirigeant de cette dernière, met en évidence les risques liés au manque de cadre légal face à l’essor technologique, illustrant ainsi un débat en cours depuis plusieurs années, notamment en Ukraine, à Gaza, et maintenant en Iran.
L’IA permet non seulement d’assister les stratégistes, mais autorise également ceux qui donnent l’ordre d’utiliser la force létale à transférer cette responsabilité aux machines. Ces systèmes d’IA deviennent intégrés dans les procédures de sélection des cibles, et parfois même la décision d’ouvrir le feu est laissée à un algorithme sans intervention humaine finale.
Les algorithmes
Ces enjeux sont également débattus en Italie, où Dario Guarascio souligne dans son livre Imperialisme numérique : économie et guerre à l’ère des plateformes et de l’IA que l’évolution de l’utilisation des outils informatiques entre la guerre d’Irak et celle d’Ukraine a été marquée par l’introduction des systèmes de support à la décision.
Ces systèmes vont au-delà de la simple observation descriptive, se penchant sur des analyses prédictives et prescrivant des actions, plaçant l’homme dans un rôle marginal.
En Ukraine, il est rapporté que 70 % des victimes proviennent de drones, qui, malgré leur coût peu élevé, provoquent des destructions massives. Tout ceci sous le contrôle de l’IA.
Souvenons-nous qu’il y a onze ans, Ben Rhodes, alors conseiller de Barack Obama, expliquait la douleur éprouvée par le président face aux décisions à prendre quant à l’utilisation de drones, conscient des risques qu’impliquent ces choix. Ces échanges sont cruciaux, surtout à la lumière des événements récents où l’IA est de plus en plus intégrée dans les processus militaires pour sélectionner des cibles, comme cela a été observé récemment à Gaza.
Points à retenir
- L’usage des drones et des technologies avancées dans les conflits croît rapidement.
- Les IA analytiques prennent une importance croissante pour la planification militaire.
- Les conséquences sociales et psychologiques de la technologie évoluent rapidement.
- Il existe un déséquilibre d’information et de pouvoir entre utilisateurs et créateurs de technologie.
- Les décisions militaires deviennent de plus en plus dépendantes d’algorithmes, posant des questions éthiques.
En tant qu’observateur passionné de l’évolution technologique, je trouve inspirant mais également préoccupant de voir comment l’IA réinvente les paradigmes de notre société. Quelles sont les limites morales que nous devons imposer à ces technologies pour éviter qu’elles compromettent nos libertés fondamentales ? Une réflexion qui mérite d’être approfondie collectivement.