Le Texas propose une régulation de l’IA avec la Loi sur une gouvernance responsable

Le Texas s’ajoute à la liste croissante des États qui envisagent d’adopter des lois complètes régulant l’utilisation de l’intelligence artificielle (IA). En particulier, la législature texane est sur le point d’examiner le projet de loi intitulé « Texas Responsible AI Governance Act » (l’« Acte »), dont l’objectif est de réguler le développement et le déploiement des systèmes d’IA dans l’État. À un moment où la plupart des États luttent avec l’émergence de l’IA, cet Acte pourrait devenir un modèle pour d’autres juridictions et avoir un impact significatif.

Applicabilité

L’essentiel de l’Acte se concentre sur les « systèmes d’intelligence artificielle à haut risque », qui incluent ceux qui, lorsqu’ils sont déployés, prennent des décisions conséquences ou y contribuent. L’Acte exclut spécifiquement plusieurs types de systèmes, tels que les technologies destinées à détecter les schémas décisionnels, les programmes anti-malware, les antivirus, ainsi que les calculateurs.

De plus, l’Acte impose des obligations spécifiques selon le rôle de chaque partie, notamment :

• Un « déployeur », qui est une entité faisant des affaires au Texas et qui déploie un système d’IA à haut risque.
• Un « développeur », qui est une entité faisant des affaires au Texas et qui développe un système d’IA à haut risque ou qui modifie substantiellement ou intentionnellement un tel système.

Le rôle de chaque partie est crucial pour évaluer leurs obligations au titre de l’Acte.

Devoirs des développeurs

L’Acte exige que les développeurs d’un système d’IA à haut risque exercent un soin raisonnable pour protéger les consommateurs des risques connus ou raisonnablement prévisibles. De plus, avant de fournir un tel système à un déployeur, les développeurs doivent offrir un « Rapport de Risque Élevé » en écriture aux déployeurs, qui doit contenir :

1. Une description de l’utilisation appropriée et inappropriée du système, ainsi que des modalités de surveillance lors de décisions conséquentes.

• Une description des limitations connues du système, des métriques utilisées pour évaluer ses performances, ainsi que ces performances sous ces métriques.
• Une description des risques connus ou raisonnablement prévisibles de discrimination algorithmique, d’utilisation ou de divulgation illégale de données personnelles, ou de manipulation ou coercition trompeuse des comportements humains.
• Une description des types de données utilisées pour programmer ou former les systèmes.
• Un résumé des mesures de gouvernance des données mises en place pour les ensembles de données d’entraînement et des mesures pour atténuer d’éventuels biais discriminatoires.

Avant le déploiement d’un système d’IA à haut risque, les développeurs doivent adopter et mettre en œuvre une politique formelle d’identification et de gestion des risques, respectant des normes prescrites. De plus, ils doivent tenir des dossiers détaillés sur tous les ensembles de données utilisés pour développer un service d’IA générative.

Devoirs des déployeurs

Les déployeurs doivent faire preuve de soin pour protéger les consommateurs des risques connus ou prévisibles liés à la discrimination algorithmique. S’ils soupçonnent qu’un système ne respecte pas cette responsabilité, ils sont tenus de suspendre son utilisation et d’informer le développeur concerné. En outre, ils doivent assurer une supervision humaine des décisions prises par ces systèmes.

Si un déployeur découvre qu’un système déployé a provoqué ou risque de provoquer de la discrimination algorithmique ou des décisions coûteuses inappropriées, il doit notifier dans un délai de dix jours le Conseil de l’Intelligence Artificielle, le procureur général du Texas ou le directeur de l’agence de réglementation de son secteur.

Sachant cela, l’Acte impose également aux déployeurs de réaliser une évaluation d’impact tous les six mois et dans les 90 jours suivant toute modification substantielle du système.

Fournisseurs de services numériques et plateformes de médias sociaux

Enfin, l’Acte stipule que les fournisseurs de services numériques et les plateformes de médias sociaux doivent déployer des efforts raisonnables pour éviter que des annonceurs n’utilisent des systèmes d’IA à haut risque qui pourraient exposer les utilisateurs à de la discrimination algorithmique.

Activités spécifiquement interdites

L’Acte interdit plusieurs pratiques, telles que :

• Manipulation des comportements humains – L’utilisation de systèmes d’IA avec des techniques trompeuses visant à altérer significativement le comportement des individus.
• Notation sociale – Interdit l’évaluation des comportements humains pour établir un score social.
• Identifiants biométriques – Interdiction de systèmes conçus pour collecter des identifiants biométriques personnels.
• Caractéristiques protégées – Interdit d’utiliser des caractéristiques basées sur la race, la couleur, le handicap ou d’autres méthodes, pouvant nuire aux individus.
• Inférences émotionnelles – Interdiction de déduire les émotions sans consentement explicite des personnes concernées.

Droits des consommateurs

Un déployeur ou développeur d’un système d’IA à haut risque interactif doit informer les consommateurs des éléments suivants avant ou lors de leur interaction :

1. Qu’ils interagissent avec un système d’intelligence artificielle ;
2. Le but du système ;
3. Que le système peut prendre des décisions ayant un impact sur eux ;
4. La nature des décisions affectant le consommateur ;
5. Les facteurs impliqués dans ces décisions ;
6. Les coordonnées du déployeur ;
7. Une description des intervenants humains ;
8. Une description des composants automatisés ;
9. Comment les composants humains et automatisés sont utilisés pour informer une décision conséquente ;
10. Une déclaration des droits du consommateur.

Ces informations doivent être présentées de manière claire et accessible.

De plus, l’Acte autorise les consommateurs à agir contre les développeurs ou déployeurs en cas de violation de leurs droits.

Application par le procureur général du Texas

Un point crucial est que l’Acte confère au procureur général du Texas le pouvoir d’investigation et d’application, y compris par des injonctions. Des amendes administratives sont prévues, variant en fonction des circonstances.

Mise en pratique

Il est essentiel que les entreprises opérant au Texas et utilisant des systèmes d’IA suivent l’évolution législative de cet Acte pour déterminer son adoption finale. Si l’Acte est adopté, elles devraient procéder à une évaluation de compatibilité avec ses exigences et préparer des politiques pour répondre aux demandes des consommateurs.