De nombreux problèmes soulevés par l’intelligence artificielle découlent du manque de transparence sur son fonctionnement et les données dont elle se nourrit. Confier la direction de l’IA à la communauté de la sécurité nationale ne fera qu’aggraver la situation.
Le bureau du président Joe Biden a récemment publié un mémorandum sur « l’avancement du leadership des États-Unis en matière d’intelligence artificielle », qui comprend, entre autres, une directive visant à faire de l’appareil de sécurité nationale un leader mondial dans l’utilisation de l’IA.
Sous la direction de la Maison-Blanche, il est attendu que l’État de sécurité nationale adopte ce rôle de leader en recrutant des esprits brillants issus du milieu académique et du secteur privé, et, plus inquiétant encore, en s’appuyant sur des modèles d’IA privés déjà en fonctionnement pour des objectifs de sécurité nationale.
Les systèmes d’IA privés gérés par des entreprises technologiques manquent déjà cruellement de transparence, à notre détriment. Les individus ressentent un malaise légitime face aux entreprises qui utilisent l’IA pour prendre toutes sortes de décisions les concernant, allant de la probabilité de commettre un crime à l’éligibilité pour un emploi, en passant par des enjeux d’immigration, d’assurance et de logement.
Les entreprises à but lucratif louent leurs services de prise de décision automatisée à divers types d’entreprises et d’employeurs, et la plupart d’entre nous ne sauront jamais qu’un ordinateur a pris une décision nous concernant, encore moins comment cette décision a été prise ou comment contester cette décision.
Mais il pourrait en être pire : l’association de l’IA privée avec le secret d’État menace de rendre un système déjà opaque encore moins responsable. Le vaste réseau d’organisations et d’agences qui composent l’appareil de sécurité nationale est tristement réputé pour son opacité. Des organisations de défense des droits civiques, comme l’Electronic Frontier Foundation, ont dû mener de nombreuses batailles juridiques pour tenter d’exposer les bases même de la surveillance globale et les règles qui la régissent.
Accorder à cet appareil le contrôle de l’IA donnerait naissance à un monstre de secret, d’irresponsabilité et de pouvoir décisionnel. Alors que l’exécutif pousse les agences à exploiter l’expertise de l’IA privée, davantage d’informations sur le fonctionnement de ces modèles d’IA seront dissimulées sous le voile presque impénétrable du secret gouvernemental.
Empruntant une vieille maxime en informatique, on pourrait dire que « les données de mauvaise qualité produisent des résultats de mauvaise qualité » : sans transparence, les données reflétant les biais systémiques de notre société entraîneront l’IA à propager et amplifier ces biais. Avec des données d’entraînement secrètes et des algorithmes « boîte noire » que le public ne peut pas analyser, le biais devient « lavé par la technologie » et des décisions oppressives sont cachées derrière la prétendue objectivité du code.
Étant donné que l’IA fonctionne en collectant et en traitant une énorme quantité de données, comprendre quelles informations elle conserve et comment elle arrive à ses conclusions deviendra crucial pour l’appareil de sécurité nationale. Cela signifie que l’État risque non seulement d’arguer que les données de formation de l’IA doivent être classées, mais également que les entreprises doivent, sous peine de sanctions légales, garder secrètes les algorithmes de gouvernance.
Comme le souligne le mémorandum, « L’IA est devenue une technologie qui définit l’ère et a montré une pertinence significative et croissante pour la sécurité nationale. Les États-Unis doivent mener le monde dans l’application responsable de l’IA à des fonctions de sécurité nationale appropriées. »
L’approche par défaut de l’appareil de sécurité nationale consiste à tenir le public dans l’ignorance. L’approche par défaut de l’IA devrait être une transparence et une responsabilité cristallines dans les données d’entraînement et la prise de décision algorithmique. Ce sont des objectifs intrinsèquement contradictoires, et déplacer l’impact croissant de l’IA sur notre société vers le domaine obscur de la sécurité nationale pourrait avoir des conséquences désastreuses pour les décennies à venir.
Points à retenir
- L’opacité des systèmes d’IA privés soulève des questions de responsabilité sociale.
- La combinaison de l’IA avec le secret d’État crée des risques d’abus et d’irrégularités.
- Des organisations de défense des droits civiques continuent de lutter pour la transparence dans les pratiques de surveillance.
Il est essentiel d’examiner comment l’utilisation croissante de l’intelligence artificielle pourrait transformer les structures de pouvoir au sein de l’État. La transparence est-elle un luxe que nous pouvons nous permettre ? Le débat autour de ces technologies nous invite à réfléchir sur l’équilibre entre la sécurité nationale et les libertés individuelles.