Accélération de l’Usage de l’IA et de la Transition E-Gouvernement en Amérique Latine : Bilan 2024

Les politiques visant à promouvoir les processus de gouvernement numérique gagnent en popularité en Amérique Latine, tant au niveau local que régional. Bien que ces initiatives puissent faciliter l’accès aux services publics, elles peuvent également les rendre moins accessibles, moins claires et mettre en péril les droits fondamentaux des individus. À l’avenir, il est essentiel de souligner l’importance de la transparence et des garanties de confidentialité lors des transitions numériques des gouvernements.

Une approche régionale de la numérisation

En novembre, la neuvième Conférence ministérielle sur la société de l’information en Amérique Latine et dans les Caraïbes a approuvé l’Agenda numérique 2026 pour la région (eLAC 2026). Cette initiative se déroule dans le cadre de la Commission économique des Nations Unies pour l’Amérique Latine et les Caraïbes (CEPALC), un forum de coopération régionale axé sur le développement économique des pays de la région.

L’un des piliers thématiques de l’eLAC 2026 est la transformation numérique de l’État, englobant la numérisation des processus et services gouvernementaux pour améliorer l’efficacité, la transparence, la participation citoyenne et la responsabilité. Cet agenda vise également à améliorer les systèmes d’identité numérique afin de faciliter l’accès aux services publics et de promouvoir des services numériques transfrontaliers dans un cadre d’intégration régionale. Dans ce contexte, l’agenda souligne la volonté des pays de mettre en œuvre des politiques favorisant le partage d’informations tout en garantissant la confidentialité, la sécurité et l’interopérabilité des systèmes numériques gouvernementaux, avec pour objectif d’utiliser les données pour la prise de décision, la conception des politiques et la gouvernance.

Ce processus régional reflète et alimente des initiatives à l’échelle nationale qui ont également pris de l’ampleur en Amérique Latine ces dernières années. Les incitations à la transformation numérique du gouvernement se situent dans un contexte d’amélioration de l’efficacité gouvernementale. Il est crucial de définir ce que l’efficacité signifie en pratique. Souvent, « efficacité » a signifié des réductions de budget ou un accès limité aux processus et aux prestations publiques au détriment des droits fondamentaux. La promotion des droits fondamentaux devrait guider les indicateurs d’efficacité et de succès d’un État.

Ainsi, bien que la numérisation puisse jouer un rôle important dans l’amélioration de l’accès aux services publics et la facilitation de l’exercice des droits, elle peut aussi compliquer l’accès à ces mêmes services et l’interaction avec l’État. Les plus vulnérables sont ceux qui ont le plus besoin d’une interaction efficace et ceux dont le contexte particulier n’est souvent pas pris en compte par les technologies utilisées. Ils sont également la population qui a généralement un accès limité aux technologies numériques et peu de compétences numériques.

De plus, si l’intégration appropriée des technologies numériques dans les processus et routines gouvernementaux a le potentiel d’améliorer la transparence et la participation civique, cela ne constitue pas un résultat garanti. Cela exige la volonté des gouvernements et des politiques orientées vers ces objectifs. Sinon, la numérisation peut devenir une couche supplémentaire de complexité et d’éloignement entre les citoyens et l’État. Améliorer la transparence et la participation implique de considérer les citoyens non seulement comme des utilisateurs des services gouvernementaux, mais comme des participants dans la conception et la mise en œuvre des politiques publiques, notamment celles relatives à la transition numérique des États.

Tirer parti des systèmes d’identité numérique et d’interopérabilité des données est généralement considéré comme une partie naturelle des plans de numérisation gouvernementale. Toutefois, cela doit être réalisé avec précaution. Comme nous l’avons souligné, des garanties de confidentialité des données efficaces et robustes ne sont pas systématiquement mises en place avec les investissements des États dans la mise en œuvre de ces systèmes, malgré leur potentiel à aboutir à un régime de suivi des données sans précédent. Parmi d’autres recommandations, il est essentiel de soutenir le droit de chaque personne à choisir de continuer à utiliser des documents physiques plutôt que de passer au numérique.

Ce lot de préoccupations souligne l’importance d’une structure institutionnelle et normative sous-jacente pour garantir le respect des droits fondamentaux au cours des processus de transition numérique. Une telle structure nécessite des garanties solides de transparence et de confidentialité des données, soutenues par des autorités de surveillance adéquatement dotées et habilitées. Pourtant, les États négligent souvent le rôle crucial de cette combinaison. En 2024, le Mexique a été un exemple flagrant de cela. Juste au moment où le nouveau gouvernement mexicain a commencé à progresser dans la transformation numérique du pays, il a également avancé la fermeture d’autorités de surveillance indépendantes clés, comme l’Institut national de la transparence, de l’accès à l’information et de la protection des données personnelles (INAI).

Numérisation et utilisation par le gouvernement de systèmes algorithmiques à des fins affectant les droits

Les stratégies d’IA approuvées dans différents pays d’Amérique Latine montrent que la promotion de l’utilisation de l’IA par le gouvernement est un levier important pour les plans nationaux en matière d’IA et un élément des processus de numérisation gouvernementale.

En octobre 2024, le Costa Rica est devenu le premier pays d’Amérique centrale à lancer une stratégie d’IA. L’un des axes stratégiques, baptisé « Gouvernement Intelligent », se concentre sur la promotion de l’utilisation de l’IA dans le secteur public. Le document souligne qu’en intégrant les technologies émergentes dans l’administration publique, il sera possible d’optimiser la prise de décision et d’automatiser les tâches bureaucratiques. Il envisage également la fourniture de services personnalisés aux citoyens, en fonction de leurs besoins spécifiques. Ce processus inclut non seulement l’automatisation des services publics, mais aussi la création de plateformes intelligentes pour permettre une interaction plus directe entre les citoyens et le gouvernement.

De son côté, le Brésil a mis à jour sa stratégie en matière d’IA et a publié en juillet le Plan IA 2024-2028. L’un des axes se concentre sur l’utilisation de l’IA pour améliorer les services publics. Le plan brésilien indique également la personnalisation des services publics en offrant aux citoyens un contenu contextuel, ciblé et proactif. Cela implique des infrastructures de données d’État et la mise en œuvre de l’interopérabilité des données entre les institutions gouvernementales. Parmi les projets basés sur l’IA proposés dans le plan figurent le développement de détections précoces des maladies neurodégénératives et un système de « prédire et protéger » pour évaluer le parcours scolaire ou universitaire des étudiants.

Chacune de ces actions peut comporter des avantages potentiels, mais elles s’accompagnent également de grands défis et de risques pour les droits de l’homme. Ceux-ci incluent l’énorme quantité de données personnelles, y compris des données sensibles, que ces systèmes peuvent traiter et croiser pour fournir des services personnalisés, les biais potentiels et le traitement disproportionné des données dans les systèmes d’évaluation des risques, ainsi que les incitations à supposer de manière problématique que l’automatisation peut remplacer l’interaction humaine entre les gouvernements et leur population. Les choix concernant la collecte des données et les technologies à adopter sont finalement politiques, bien qu’ils soient généralement traités sous l’angle technique, éloignés de la discussion politique.

Un enjeu fondamental réside dans la transparence gouvernementale concernant les systèmes d’IA utilisés par les institutions publiques ou faisant partie de programmes pilotes. Cette transparence doit au moins varier de l’information active des citoyens sur l’existence de ces systèmes, avec des détails critiques sur leur conception et leur fonctionnement, jusqu’à des informations qualifiées et des indicateurs sur leurs résultats et impacts.

Malgré l’adoption croissante de systèmes algorithmiques par des organismes publics en Amérique Latine (par exemple, une étude de 2023 a cartographié 113 systèmes ADM gouvernementaux en cours d’utilisation en Colombie), les initiatives robustes de transparence ne font que commencer. Le Chili se distingue à cet égard avec son référentiel d’algorithmes publics, tandis que le Brésil a lancé l’Observatoire brésilien de l’IA (OBIA) en 2024. À l’instar de l’ILIA (Index latin-américain de l’intelligence artificielle), l’OBIA propose des données significatives pour mesurer l’état d’adoption et de développement des systèmes d’IA au Brésil, mais ne contient toujours pas d’informations détaillées sur les systèmes basés sur l’IA utilisés par les entités gouvernementales.

L’application la plus difficile et controversée, d’un point de vue des droits de l’homme et de la responsabilité, est l’utilisation par le gouvernement de l’IA dans des activités liées à la sécurité.

Surveillance gouvernementale et technologies émergentes

En 2024, la nouvelle administration argentine, dirigée par le président Javier Milei, a adopté un ensemble de lois régulant les capacités de surveillance numérique et d’IA de ses forces de police. L’une de ces lois, émise en mai, stipule comment les forces de police doivent mener du « cyberpatrouillage » ou de l’Open-Source Intelligence (OSINT) pour prévenir les crimes. Les activités OSINT n’impliquent pas nécessairement l’utilisation de l’IA, mais elles ont de plus en plus intégré des modèles d’IA, facilitant l’analyse de grandes quantités de données. Bien que l’OSINT ait des utilisations importantes et légitimes, y compris pour le journalisme d’investigation, son application à des fins de surveillance gouvernementale soulève de nombreuses préoccupations et a conduit à des abus.

Une autre réglementation, émise en juillet, a créé l’« Unité d’intelligence artificielle appliquée à la sécurité » (UIAAS). Les pouvoirs de cette nouvelle agence incluent « le patrouillage des réseaux sociaux ouverts, des applications et des sites Internet » ainsi que « l’utilisation d’algorithmes d’apprentissage automatique pour analyser les données criminelles historiques et ainsi prédire des crimes futurs ». Des organisations de la société civile en Argentine, telles que Observatorio de Derecho Informático Argentino, Fundación Vía Libre et Access Now, ont saisi les tribunaux pour faire valoir leur droit d’accéder à l’information concernant la nouvelle unité créée.

L’opacité persistante et le manque de recours efficaces face aux abus dans l’utilisation par le gouvernement des technologies de surveillance numérique dans la région ont conduit le Rapporteur spécial pour la liberté d’expression de la Commission interaméricaine des droits de l’homme (CIDH) à appeler à une action. Le Bureau du Rapporteur spécial a mené une consultation pour recueillir des avis sur les abus de surveillance numérique, l’état de la législation sur la surveillance numérique, l’ampleur du marché de la surveillance privée dans la région, ainsi que les défis de transparence et de responsabilité, en plus des lacunes et recommandations de meilleures pratiques. L’EFF a participé à des entretiens d’experts et a soumis des commentaires lors de ce processus de consultation. Le rapport final sera publié l’année prochaine avec des analyses et recommandations importantes.

Vers l’avant : S’appuyer sur les normes interaméricaines des droits humains pour une utilisation appropriée de l’IA par les gouvernements en Amérique Latine

Considérant ce contexte plus large de défis, nous avons lancé un rapport complet sur l’application des normes interaméricaines des droits humains à l’utilisation par le gouvernement de systèmes algorithmiques pour des déterminations affectant les droits. En nous plongeant dans les décisions de la Cour interaméricaine et les rapports de la CIDH, nous fournissons des orientations sur les considérations que les institutions d’État doivent prendre en compte lorsqu’elles évaluent si et comment déployer des systèmes d’IA et d’ADM pour des déterminations pouvant affecter les droits des personnes.

Nous avons détaillé ce que les engagements des États dans le cadre du Système interaméricain impliquent lorsque les organismes d’État décident de mettre en œuvre des technologies IA/ADM pour des déterminations liées aux droits. Nous avons expliqué pourquoi cette adoption doit respecter des principes nécessaires et proportionnés et ce que cela implique. Nous avons mis en avant ce que signifie adopter une approche des droits humains dans les politiques étatiques basées sur l’IA, y compris les lignes rouges cruciales pour ne pas aller de l’avant avec leur déploiement. Nous avons développé les implications pour les droits humains en nous basant sur les droits clés inscrits dans la Convention américaine des droits de l’homme et le Protocole de San Salvador, établissant ainsi un cadre opérationnel pour leur dû application.

Sur la base de ce rapport, nous avons noué des liens avec des institutions de surveillance, participant à des formations pour des procureurs publics au Mexique et renforçant nos liens avec le Bureau du défenseur public de l’État de São Paulo, au Brésil. Notre objectif est de fournir des contributions pour une adoption adéquate des systèmes IA/ADM et pour remplir leur rôle en tant qu’entités d’intérêt public concernant l’utilisation par le gouvernement des systèmes algorithmiques de manière plus générale.

Améliorer la surveillance publique du déploiement par l’État de technologies affectant les droits dans un contexte marqué par la numérisation gouvernementale est essentiel pour une prise de décision démocratique et une action gouvernementale alignée sur les droits humains. La société civile joue également un rôle critique, et nous continuerons à œuvrer pour sensibiliser aux impacts potentiels, en poussant à ce que les droits soient renforcés et non érodés en cours de route.

Cet article fait partie de notre série de rétrospectives de l’année. Lisez d’autres articles sur la lutte pour les droits numériques en 2024.