La détermination d’un cas d’utilisation de l’intelligence artificielle (IA) comme impactant sur la sécurité ou les droits est établie conformément à la note de service M-24-10 du Bureau de la gestion et du budget (OMB), intitulée “Avancement de la gouvernance, de l’innovation et de la gestion des risques pour l’utilisation de l’intelligence artificielle par les agences” (28 mars 2024). Cette note met en œuvre certaines dispositions de l’Ordre Exécutif 14110 sur le développement et l’utilisation en toute sécurité et confiance de l’intelligence artificielle (30 octobre 2023). Le document M-24-10 énumère des catégories d’utilisation de l’IA présumées impactantes sur la sécurité ou les droits (dans l’annexe I de M-24-10) et offre des définitions pour ce qui est désigné comme “IA impactant la sécurité” et “IA impactant les droits” (dans la section 6 de M-24-10). Il est possible qu’un cas d’utilisation soit présumé à la fois impactant sur la sécurité et les droits sans pour autant satisfaire l’une ou l’autre des définitions. Ces définitions nécessitent d’évaluer si la sortie spécifique de l’IA sert de base principale pour une décision ou une action.
Les définitions complètes de M-24-10 sont les suivantes :
“Le terme ‘IA impactant la sécurité’ fait référence à une IA dont la sortie produit une action ou sert de base principale à une décision qui a le potentiel d’avoir un impact significatif sur la sécurité de : (1) La vie humaine ou le bien-être, y compris la perte de vie, les blessures graves, les dommages corporels, les atteintes biologiques ou chimiques, les risques professionnels, le harcèlement ou les abus, ou la santé mentale, tant au niveau individuel que communautaire ; (2) Le climat ou l’environnement, y compris les dommages environnementaux irréversibles ou significatifs ; (3) Les infrastructures critiques, y compris les secteurs d’infrastructure critiques définis dans la Directive de Politique Présidentielle 2159 ou toute directive successorale ainsi que l’infrastructure pour le vote et la protection de l’intégrité des élections ; ou (4) Les actifs ou ressources stratégiques, y compris les biens de grande valeur et les informations marquées comme sensibles ou classifiées par le gouvernement fédéral.” (M-24-10, Section 6 ; voir également Annexe I(1) qui liste les catégories d’applications d’IA présumées impactantes sur la sécurité.)
“Le terme ‘IA impactant les droits’ désigne une IA dont la sortie sert de base principale à une décision ou une action concernant une personne ou une entité spécifique, ayant un effet légal, matériel, contraignant ou d’une importance similaire sur les droits : (1) Civils, libertés publiques ou vie privée, y compris mais non limité à la liberté d’expression, le droit de vote, l’autonomie humaine, et les protections contre la discrimination, les peines excessives et la surveillance illégale ; (2) Égalité des opportunités, y compris l’accès équitable à l’éducation, au logement, à l’assurance, au crédit, à l’emploi et d’autres programmes où s’appliquent les protections des droits civils et des opportunités égales ; ou (3) Accès ou capacité à postuler pour des ressources ou services gouvernementaux critiques, y compris la santé, les services financiers, le logement public, les services sociaux, les transports, ainsi que les biens et services essentiels.” (M-24-10, Section 6 ; voir également Annexe I(2) qui liste les catégories d’applications d’IA présumées impactantes sur les droits.)
Conformément à M-24-10, les agences doivent mettre en œuvre les pratiques minimales pour chaque cas d’utilisation d’IA impactant la sécurité ou les droits avant toute mise en service.
Bon à savoir
- Les agences gouvernementales sont tenues d’évaluer l’impact potentiel de l’IA dans divers domaines avant son déploiement.
- Il existe des catégories spécifiques d’applications d’IA qui sont considérées comme ayant un impact significatif sur la sécurité et les droits civiques.
- Les définitions de ce qui constitue une IA impactant la sécurité et les droits sont formalement établies dans le cadre des directives fédérales.