De nombreux problèmes liés à l’intelligence artificielle trouvent leurs origines dans le manque de transparence quant à son fonctionnement et aux données qu’elle utilise. Ainsi, confier à la communauté de la sécurité nationale le leadership sur l’IA pourrait aggraver cette situation.
La Maison Blanche de Joe Biden a récemment publié un mémorandum sur « l’avancement du leadership des États-Unis en matière d’intelligence artificielle » qui inclut, entre autres, une directive visant à faire de l’appareil de sécurité nationale un leader mondial dans l’utilisation de l’IA.
Sous l’impulsion de la Maison Blanche, le secteur de la sécurité nationale est appelé à prendre cette position de leader en attirant de brillants esprits du milieu académique et du secteur privé et, de manière inquiétante, en utilisant des modèles d’IA privés déjà en fonctionnement pour des objectifs de sécurité nationale.
Les systèmes d’IA privés opérés par des entreprises technologiques sont déjà d’une opacité inquiétante, ce qui nuit à la société. Beaucoup d’individus sont mal à l’aise, et à juste titre, avec des entreprises utilisant l’IA pour décider de divers aspects de leur vie tels que la probabilité de commettre un crime, leur admissibilité à un emploi ou encore des questions relatives à l’immigration, à l’assurance et au logement.
Les entreprises lucratives louent leurs services de décision automatisée à toutes sortes d’entités et d’employeurs, et la plupart d’entre nous n’apprendront jamais qu’un ordinateur a pris une décision nous concernant, sans pour autant comprendre comment cette décision a été formulée ni pouvoir la contester.
Cependant, la situation pourrait s’aggraver : combiner l’IA privée avec le secret national met en danger un système déjà peu transparent, le rendant encore plus difficilement contrôlable et opaque.
Le réseau d’organisations et d’agences qui composent l’appareil de sécurité nationale est notoirement secret. La Electronic Frontier Foundation et d’autres organisations de défense des droits civiques ont dû combattre en justice à maintes reprises pour tenter de révéler ne serait-ce que les structures les plus élémentaires de la surveillance globale et les règles qui la régissent.
Conférer à cet appareil le contrôle sur l’IA créera un monstre de Frankenstein fait de secret, d’absence de responsabilité et de prise de décision. Alors que l’exécutif encourage les agences à tirer parti de l’expertise privée en IA, un nombre croissant d’informations sur le fonctionnement de ces modèles d’IA sera masqué par le voile presque impénétrable du secret gouvernemental.
C’est comme l’adage classique en informatique : « déchet en entrée, déchet en sortie ». Sans transparence, des données reflétant les biais systémiques de notre société formeront l’IA pour qu’elle propage et amplifie ces biais. Avec des données d’entraînement secrètes et des algorithmes opaques que le public ne peut pas analyser, les biais deviennent « nettoyés par la technologie » et des décisions oppressives se cachent derrière l’objectivité supposée du code.
L’IA fonctionne en collectant et en traitant une immense quantité de données, il devient donc crucial de comprendre quelles informations elle retient et comment elle formule ses conclusions. Cela signifie non seulement que l’État pourrait argumenter que les données d’entraînement de l’IA doivent être classées, mais il pourrait aussi soutenir que les entreprises doivent, sous peine de loi, garder secrètes les algorithmes de gouvernance.
Comme le dit le mémorandum, « l’IA s’est imposée comme une technologie définissant notre époque et a démontré une importance significative et croissante pour la sécurité nationale. Les États-Unis doivent mener le monde dans l’application responsable de l’IA pour des fonctions de sécurité nationale appropriées. »
L’approche par défaut de l’appareil de sécurité nationale consiste à tenir le public dans l’ignorance. L’approche par défaut en matière d’IA devrait être une transparence et une responsabilité cristallines sur les données d’entraînement et les décisions algorithmiques. Ces objectifs sont essentiellement contradictoires, et déplacer l’impact croissant de l’IA sur notre société vers le domaine obscur de la sécurité nationale pourrait avoir des conséquences désastreuses pour plusieurs décennies.
Points à retenir
- Le manque de transparence sur le fonctionnement de l’IA soulève des préoccupations sociétales.
- L’appareil de sécurité nationale envisage d’utiliser des modèles d’IA privés, ce qui accentue les risques d’opacité.
- Les décisions prises par des algorithmes peuvent ne jamais être connues ou contestées par les personnes concernées.
En conclusion, il est crucial d’encourager un débat public sur l’utilisation éthique de l’IA, en particulier lorsqu’elle est liée à des enjeux de sécurité nationale. Comment pouvons-nous garantir que les décisions algorithmiques sont justes, transparents et responsables ? Ces questions méritent notre attention alors que nous avançons vers une intégration de l’IA dans des systèmes aussi critiques.