Le Texas rejoint un nombre croissant d’États qui envisagent des lois complètes régissant l’utilisation de l’intelligence artificielle (IA). En particulier, la législature du Texas devrait examiner le projet de loi intitulé le « Texas Responsible AI Governance Act » (la « Loi »), qui vise à réglementer le développement et le déploiement des systèmes d’intelligence artificielle au Texas. À un moment où de nombreux États tentent de prendre en main l’émergence de l’IA, cette loi pourrait servir de modèle pour d’autres États et avoir un impact considérable.
Champ d’application
La majeure partie de la Loi se concentre sur les « systèmes d’intelligence artificielle à haut risque », qui comprennent les systèmes d’IA qui, lorsqu’ils sont déployés, prennent ou participent d’une manière ou d’une autre à la prise de décisions importantes. La Loi exclut spécifiquement plusieurs systèmes, tels que les technologies destinées à détecter les schémas de prise de décision, les programmes anti-malware et antivirus, ainsi que les calculateurs, entre autres.
De manière distincte, la Loi impose également des obligations spécifiques en fonction du rôle de chaque partie, notamment :
- Un « déployeur », qui est une partie faisant des affaires au Texas et déployant un système d’intelligence artificielle à haut risque.
- Un « développeur », qui est une partie faisant des affaires au Texas et développant un système d’intelligence artificielle à haut risque ou qui modifie substantiellement ou intentionnellement un tel système.
Il est essentiel de déterminer le rôle d’une partie pour évaluer ses obligations en vertu de la Loi.
Devoirs des développeurs
La Loi exige que les développeurs d’un système d’intelligence artificielle à haut risque fassent preuve d’un soin raisonnable pour protéger les consommateurs des risques connus ou raisonnablement prévisibles. De plus, la Loi impose aux développeurs, avant de fournir un système d’IA à haut risque à un déployeur, de fournir à celui-ci un « rapport sur les risques élevés » qui doit inclure :
- Une description de la manière dont le système d’IA à haut risque doit être utilisé et ne doit pas l’être, ainsi que des instructions sur la manière de surveiller le système lorsqu’il est utilisé pour prendre une « décision conséquente ».
- Une description des limitations connues du système, des critères utilisés pour mesurer la performance du système, ainsi que des résultats de ces mesures.
- Une description des risques connus ou raisonnablement prévisibles de discrimination algorithmique, d’utilisation ou de divulgation illégale de données personnelles, ou de manipulation trompeuse ou coercitive du comportement humain susceptibles de se produire.
- Une description des types de données à utiliser pour programmer ou former les systèmes.
- Un résumé des mesures de gouvernance des données mises en place pour couvrir les ensembles de données d’entraînement, ainsi que des mesures prises pour examiner la pertinence des sources de données et des biais discriminatoires, avec les précautions à adopter pour atténuer ces risques.
Avant le déploiement d’un système d’intelligence artificielle à haut risque, les développeurs doivent adopter et mettre en œuvre une politique formelle d’identification et de gestion des risques qui doit répondre à plusieurs normes prescrites. De plus, les développeurs doivent tenir des registres détaillés des ensembles de données d’entraînement utilisés pour développer un système ou un service d’intelligence artificielle générative.
Devoirs des déployeurs
La Loi exige que les déployeurs de systèmes d’IA à haut risque prennent des mesures raisonnables pour protéger les consommateurs des risques connus ou raisonnablement prévisibles découlant de la discrimination algorithmique. De plus, si un déployeur considère ou a des raisons de penser qu’un système n’est pas conforme à ce devoir, il doit suspendre son utilisation et en informer le développeur du système. Parallèlement, les déployeurs sont tenus d’assurer une supervision humaine lors de la prise de décisions conséquentes par ces systèmes. En cas de découverte que le système déployé a causé ou pourrait causer une discrimination algorithmique, le déployeur doit notifier le Conseil de l’intelligence artificielle, le procureur général du Texas ou le directeur de l’agence d’État régissant le secteur d’activité du déployeur dans un délai maximum de dix jours après la connaissance de tels problèmes.
En outre, les déployeurs doivent réaliser une évaluation d’impact tous les six mois et dans les quatre-vingt-dix jours suivant toute modification intentionnelle ou substantielle du système. La Loi précise un certain nombre d’éléments qui doivent être abordés dans l’évaluation, incluant, entre autres, une analyse des risques de discrimination algorithmique ainsi qu’une description des mesures prises pour atténuer ces risques. Après une modification significative d’un système d’intelligence artificielle à haut risque, le déployeur doit également divulguer la manière dont le système a été utilisé, qu’elle soit conforme ou différente de l’utilisation prévue par le développeur.
La Loi impose aussi aux développeurs de passer en revue le déploiement de systèmes d’IA à haut risque sur une base annuelle pour s’assurer qu’ils ne provoquent pas de discrimination algorithmique.
Fournisseurs de services numériques et plateformes de médias sociaux
En outre, la Loi stipule que les fournisseurs de services numériques et les plateformes de médias sociaux doivent déployer des efforts raisonnables pour empêcher les annonceurs d’utiliser des systèmes d’IA à haut risque qui pourraient exposer les utilisateurs à la discrimination algorithmique.
Activités spécifiquement interdites
La Loi impose plusieurs limitations sur certaines activités, telles que :
- Manipulation du comportement humain – L’utilisation d’un système d’IA qui utilise des techniques subliminales ou trompeuses pour altérer de manière significative le comportement d’une personne ou d’un groupe en limitant leur capacité à prendre une décision éclairée est prohibée.
- Évaluation sociale – L’utilisation d’un système d’IA pour évaluer ou classer des personnes basées sur leur comportement social ou leurs caractéristiques personnelles prédites est interdite si l’objectif est de déterminer un score social.
- Identifiants biométriques – Interdiction de tout système d’IA qui collecte des identifiants biométriques à des fins de détection ou d’interprétation des attributs personnels sensibles, sauf dans le cadre de l’étiquetage ou du filtrage de données acquises légalement.
- Caractéristiques protégées – L’utilisation d’un système d’IA qui exploite des caractéristiques basées sur la race, l’origine, le sexe, etc., pour influencer le comportement d’une personne d’une manière pouvant causer un préjudice significatif est prohibée.
- Inférences émotionnelles – Il est interdit d’inférer ou de tenter d’inférer les émotions d’une personne sans son consentement explicite.
Droits des consommateurs
Un déployeur ou développeur d’un système d’IA à haut risque interagissant avec les consommateurs doit informer ceux-ci, avant ou au moment de l’interaction, des éléments suivants :
- Que l’utilisateur interagit avec un système d’intelligence artificielle ;
- Le but de ce système ;
- Que le système pourrait prendre une décision conséquente affectant le consommateur ;
- La nature de cette décision ;
- Les critères utilisés pour ces décisions ;
- Les coordonnées du déployeur concerné ;
- Une description des composantes humaines du système ;
- Une description de ses composantes automatisées ;
- Comment les éléments humains et automatisés sont utilisés pour prendre une décision conséquente ;
- Une déclaration des droits du consommateur.
Ces informations doivent être claires et présentées dans un langage simple.
Par ailleurs, la Loi permet aux consommateurs d’intenter une action contre un développeur ou déployeur qui enfreint leurs droits. Toutefois, il semble que le recours soit limité à des mesures déclaratoires ou injonctives, mais les consommateurs peuvent récupérer leurs frais et honoraires d’avocat.
Application par le procureur général du Texas
Notamment, la Loi confère au procureur général du Texas la compétence d’enquêter et d’appliquer les dispositions de la Loi, y compris par le biais d’injonctions. Des amendes administratives sont également prévues, variant selon les circonstances, de 40 000 à 100 000 dollars par violation si un développeur ou déployeur ne rectifie pas une violation dans les délais impartis.
Mettre en œuvre la Loi
Il est essentiel que les entreprises opérant au Texas et utilisant des systèmes d’intelligence artificielle suivent l’évolution législative de la Loi pour déterminer sa future mise en application. Si la Loi est adoptée, les entreprises devraient évaluer la compatibilité de leurs opérations actuelles avec ses limites et procéder à une évaluation d’impact pour garantir leur conformité. En outre, elles devraient commencer à élaborer des politiques, procédures et autres systèmes afin de répondre aux demandes des consommateurs.
Points à retenir
- Le Texas propose une législation ambitieuse pour encadrer l’utilisation de l’IA.
- Les obligations des développeurs et déployeurs d’IA visent à protéger les consommateurs contre les risques de discrimination algorithmique.
- La Loi impose des exigences spécifiques quant à la transparence des informations fournies aux utilisateurs.
- Elle prévoit des sanctions administratives en cas de non-respect des règles établies.
- Les entreprises se doivent d’anticiper et d’adapter leurs pratiques à cette législation potentielle.
Avec l’essor rapide des technologies d’intelligence artificielle, le cadre réglementaire, tel que proposé au Texas, pourrait influencer d’autres États et voir émerger des normes de protection des consommateurs. Une telle évolution pourrait entraîner des débats cruciaux sur la responsabilité et l’éthique dans l’utilisation des technologies avancées. Comment les entreprises adapteront-elles leurs pratiques pour se conformer à ces nouvelles exigences tout en continuant à innover ?
C’est fascinant de voir une telle avancée dans la réglementation de l’IA au Texas. Cela pourrait vraiment changer la manière dont ces technologies sont utilisées dans notre quotidien.
Cette législation au Texas me rappelle le délicat équilibre entre innovation et tradition. Protéger l’humain dans l’émergence technologique est essentiel pour un futur harmonieux.
La législation texane sur l’IA est une danse délicate entre innovation et éthique. Une belle façon de protéger nos choix tout en naviguant dans le futur numérique. À suivre de près !
L’initiative du Texas en matière de réglementation de l’IA est une avancée encourageante. Elle pourrait poser des bases solides pour un usage éthique et responsable de ces technologies fascinantes.