Avec l’avancée continue de la technologie de l’intelligence artificielle (IA), les opportunités d’application à grande échelle se sont considérablement élargies. Cependant, ces progrès positifs s’accompagnent de préoccupations sérieuses, notamment en ce qui concerne leur utilisation dans la guerre moderne et le développement de Systèmes d’Armes Autonomes Létales (SAAL). Souvent désignés sous le terme de « robots tueurs », ces systèmes exploitent l’IA pour identifier, sélectionner et éliminer des cibles humaines sans intervention humaine directe, soulevant ainsi des questions éthiques, juridiques et de sécurité profondes.
Dans son dernier rapport sur les évolutions scientifiques et technologiques actuelles et leur impact potentiel sur la sécurité internationale et les efforts de désarmement, le Secrétaire général des Nations Unies, António Guterres, a souligné les risques liés à l’incapacité de l’IA à respecter le principe de distinction, qui impose de protéger les civils en les distinguant des combattants, conformément au droit international humanitaire (DIH).
Étant donné que l’IA peut incorporer des biais involontaires provenant des ensembles de données utilisés pour son entraînement, le rapport préliminaire d’un groupe d’experts de l’ONU indique que « dans le contexte des armes autonomes, les critères définissant qui est combattant ou cible pourraient impliquer des facteurs tels que le genre, l’âge, la race et la capacité ».
La possibilité que l’intelligence artificielle révolutionne les essaims de drones robotiques représente un développement particulièrement risqué. Les conflits armés actuels ont montré une utilisation accrue des drones sur le champ de bataille, non seulement pour réaliser des tâches de surveillance et de renseignement, mais également pour mener des missions offensives. Avec l’aide de l’IA, ces robots à faible coût pourraient former des essaims hautement autonomes capables d’attaquer simultanément plusieurs cibles à grande échelle, remettant possiblement en question les principes de proportionnalité et de précaution en vertu du DIH.
Un enjeu majeur réside dans la difficulté de maintenir un contrôle humain significatif sur ces systèmes, le contrôle direct des essaims étant à la fois impossible et contre-productif, car les unités individuelles doivent compter sur une prise de décision autonome pour former un essaim efficace.
Étant donné que les machines ne peuvent être tenues responsables des violations du droit international, toute décision prise par les SAAL doit finalement être traçable à un être humain.
Dans son Nouvel Agenda pour la paix, le Secrétaire général a formulé des recommandations sur la gouvernance de l’IA et des systèmes d’armes autonomes, notamment en appelant à un traité juridiquement contraignant interdisant les SAAL fonctionnant sans contrôle ou supervision humaine, à conclure d’ici 2026. Lors du Sommet de l’Avenir en septembre, les États membres ont réitéré la nécessité d’une coopération accrue et ont convenu de poursuivre les discussions « dans le but de développer un instrument, sans préjuger de sa nature, ainsi que d’autres mesures possibles pour aborder les technologies émergentes dans le domaine des systèmes d’armes autonomes létales ».
Ce processus sera facilité par le Groupe d’experts gouvernementaux sur les technologies émergentes dans le domaine des Systèmes d’Armes Autonomes Létales (GGE SAAL).
Avec l’évolution rapide et imprévisible des capacités de l’IA, ces efforts représentent une voie vers la gouvernance mondiale de cette technologie émergente, exploitant le potentiel incroyable de l’IA pour favoriser le progrès des Objectifs de Développement Durable, tout en gardant sous contrôle les risques associés à son utilisation dans les systèmes d’armement.
Points à retenir
- Les Systèmes d’Armes Autonomes Létales soulèvent d’importantes préoccupations éthiques et juridiques en matière de distinction entre civils et combattants.
- Des recommandations pour un traité interdisant ces systèmes d’armes ont été encouragées par le Secrétaire général des Nations Unies.
- La gouvernance de l’IA doit être mise en place pour équilibrer son utilisation bénéfique avec la régulation nécessaire dans le domaine militaire.
Il est essentiel de poursuivre cette discussion sur les implications de l’IA dans le domaine militaire, car la technologie continue de progresser. Comment assurer une régulation efficace qui préserve les valeurs humanitaires tout en tenant compte des développements technologiques rapides ? Cette question mérite d’être examinée de près alors que nous naviguons dans un avenir de plus en plus complexe.
La technologie peut être une belle œuvre d’art, mais elle doit toujours respecter l’humanité. Équilibrer innovation et éthique est essentiel pour un futur harmonieux.