L’Intelligence Artificielle : Une Punition pour les Américains à Revenu Faible

Avec l’IA, les risques associés à des politiques inappropriées, des erreurs de programmation, des biais ou de la cruauté touchent un grand nombre de personnes, allant de plusieurs milliers à des millions à la fois, souligne Kevin De Liban.

Distribution de nourriture à Houston, 2017. (Photo USDA par Lance Cheung, domaine public)

Par Kevin De Liban
Inequality.org

Les milliards de dollars investis dans l’intelligence artificielle (IA) n’ont pas permis d’atteindre les révolutions technologiques promises, comme une meilleure prise en charge médicale, des avancées en recherche scientifique ou une augmentation de la productivité des travailleurs.

Ainsi, plutôt que de véritables progrès, le discours autour de l’IA se limite à des améliorations modestes : des téléphones légèrement plus intelligents, des graphiques générés par texte et une rédaction de rapports plus rapide (sous réserve que l’IA n’ait pas fourni d’informations erronées).

Cependant, il existe une face cachée à cette technologie, souvent ignorée par ceux qui promeuvent l’IA : les nombreux préjudices qu’elle inflige aux personnes à faible revenu.

L’IA et des technologies similaires sont utilisées par des gouvernements, des employeurs, des propriétaires, des banques, des éducateurs et des forces de l’ordre pour réduire abusivement les services de soins à domicile pour les personnes handicapées, accuser les demandeurs d’emploi de fraude et refuser des droits aux personnes en matière de logement, d’emploi ou de crédit, ajouter à cela le placement d’enfants en famille d’accueil et l’intensification de la violence domestique ainsi que d’agressions sexuelles ou harcèlement.

Au total, 92 millions de personnes à faible revenu aux États-Unis — celles vivant avec des revenus inférieurs à 200 % du seuil de pauvreté — ont un aspect clé de leur vie déterminé par l’IA, selon un rapport récent de TechTonic Justice. Ce tournant vers une prise de décision par l’IA comporte des risques qui ne se retrouvaient pas dans les méthodes centrées sur l’humain qui précédaient ce changement et échappe à tous les mécanismes de responsabilité existants.

Premièrement, l’IA élargit le spectre des risques bien au-delà des décisionnaires individuels. Les erreurs humaines ou les biais peuvent exister, mais leur portée est limitée aux personnes directement concernées par leurs décisions. Cela peut ne concerner que quelques centaines de personnes, par exemple, un propriétaire, un superviseur direct ou un assistant social.

Avec l’IA, les risques liés à des politiques inappropriées, des erreurs de codage, des préjugés ou de la cruauté sont centralisés dans le système et peuvent concerner des milliers voire des millions de personnes.

Deuxièmement, l’usage de l’IA et les raisons qui motivent ses décisions ne sont pas toujours transparents pour les personnes concernées. Les agences gouvernementales et les entreprises n’ont souvent aucune obligation de divulguer qu’elles utilisent de l’IA. Même lorsqu’il y a divulgation, les informations essentielles à la compréhension du fonctionnement de ces systèmes peuvent ne pas être partagées.

Troisièmement, la prétendue sophistication de l’IA donne l’illusion de rationalité à des décisions politiques hostiles envers les personnes à faible revenu, facilitant ainsi la mise en œuvre de politiques nuisibles pour ces communautés.

Les coupes budgétaires, telles que celles touchant les services de soins à domicile pour les personnes handicapées, sont présentées comme des évaluations objectives des besoins. Des systèmes de gestion et de surveillance en milieu de travail, qui menacent la stabilité et la sécurité des employés, se déguisent en outils de maximisation de la productivité. Pour reprendre un proverbe, les loups de l’IA se déguisent en moutons.

Cette ampleur, cette opacité et ce camouflage de l’IA compliquent la contestation des décisions nuisibles à un niveau individuel. Comment prouver qu’une décision de l’IA est erronée si vous ignorez qu’elle est utilisée ou comment elle fonctionne ? Même si vous le savez, cela aura-t-il de l’importance lorsque le choix de l’IA est soutenu par des revendications de sophistication statistique, aussi douteuses soient-elles ?

Intelligence artificielle, IA et apprentissage machine. (Mike MacKenzie, Image via www.vpnsrus.com, CC BY 2.0)

À un niveau plus large, les mécanismes de responsabilité existants ne parviennent pas à freiner l’IA nuisible. Les scandales liés à l’IA dans les systèmes de prestations publiques ne sont pas devenus de véritables problèmes politiques pour les gouverneurs responsables des échecs des programmes Medicaid ou des systèmes d’assurance chômage au Texas et en Floride, par exemple. De plus, les responsables des agences qui mettent en œuvre de tels systèmes sont souvent protégés par les élus dont ils appliquent les agendas.

Le marché ne parvient pas non plus à sanctionner les mauvais usages de l’IA à l’encontre des personnes à faible revenu. Un développeur majeur de systèmes d’éligibilité pour les programmes Medicaid des États a sécurisé 6 milliards de dollars de contrats malgré l’échec de ses systèmes dans plusieurs États.

De même, un important courtier de données a continué à obtenir des contrats avec le gouvernement fédéral après avoir divulgué les informations personnelles de près de 150 millions d’Américains lors d’une violation de sécurité.

Les lois existantes ne suffisent pas non plus. En l’absence de législation spécifique à l’IA, les individus doivent appliquer les revendications légales existantes à cette technologie. Ces revendications, généralement fondées sur des lois anti-discrimination ou des exigences de procédure telles que l’obtention d’explications adéquates pour des décisions, ne sont souvent disponibles qu’après la survenue du préjudice et offrent une protection limitée.

Bien que de telles poursuites aient rencontré un certain succès, elles ne constituent pas à elles seules une solution. Les procès sont coûteux, et les personnes à faible revenu n’ont souvent pas les moyens de payer des avocats; de plus, l’aide juridique gratuite proposée par les programmes d’assistance juridique peut ne pas pouvoir répondre à la demande.

Actuellement, des systèmes d’IA non responsables prennent des décisions incontestables concernant les personnes à faible revenu à une échelle inimaginable. Les décisionnaires fédéraux ne semblent pas en mesure d’apporter des améliorations.

L’administration Trump a rapidement abrogé des directives protectrices concernant l’IA que le président Joe Biden avait émises. Avec Trump et le Congrès privilégiant les intérêts de l’industrie, des solutions législatives à court terme semblent peu probables.

Cela dit, tout espoir n’est pas perdu. La résistance communautaire a longtemps été un moteur de changement social. Avec un soutien accru de la philanthropie et de la société civile, les communautés à faible revenu et leurs défenseurs peuvent mieux résister aux préjudices immédiats et se doter du pouvoir politique nécessaire pour obtenir une protection à long terme contre les ravages de l’IA.

Des organisations comme la mienne, TechTonic Justice, visent à habiliter ces communautés en première ligne et leurs défenseurs avec des stratégies éprouvées qui intègrent la litigation, l’organisation, l’éducation publique, l’advocacy narrative et d’autres dimensions pour favoriser le changement.

En fin de compte, lutter depuis la base est notre meilleur espoir pour mettre un terme à l’injustice liée à l’IA.

Article original rédigé par : Kevin De Liban.

Les opinions exprimées dans cet article peuvent ou non refléter celles de Consortium News.