À l’approche du Sommet Action AI, qui se tiendra le 10 février, Damini Satija, directrice du programme technologie et droits humains d’Amnesty International, a déclaré :
« Avec la réunion de dirigeants mondiaux et de cadres technologiques à Paris pour le Sommet Action AI, le gouvernement français ne doit pas laisser passer une occasion cruciale de faire progresser une réglementation de l’IA respectueuse des droits humains à l’échelle mondiale. Les gouvernements présents au sommet ne doivent pas se laisser influencer par des intérêts corporatifs au détriment des personnes qui subissent actuellement les impacts les plus graves des systèmes d’IA. »
« Bien que la France ait entrepris une tâche significative en accueillant ce sommet, la participation de la société civile et des activistes des droits humains à l’agenda principal est largement insuffisante. Les ressources nécessaires pour garantir un dialogue collaboratif avec les représentants des communautés touchées et les défenseurs des droits humains n’ont pas été priorisées. »
« Le manque de soutien des organisateurs du sommet pour les défenseurs des droits humains et les représentants communautaires nécessitant des visas pour entrer en France démontre un manque d’engagement véritable pour engager un dialogue égal avec la société civile, particulièrement en provenance des pays du Global Majority. »
« Si les États prennent au sérieux une approche ouverte, multipartite et inclusive en matière de développement, de déploiement et de régulation des technologies d’IA, ils doivent élever et centrer les voix et les priorités des communautés impactées. »
Nous vivons désormais dans un monde qui semble de plus en plus terrifiant. L’omniprésence des algorithmes prédictifs, associée à un regain de tensions contre les libertés civiles, risque de donner un blanc-seing aux entreprises technologiques pour opérer sans règles ni directives.
Damini Satija, Directrice du programme Amnesty Tech
« Les acteurs étatiques ne doivent également pas se laisser tromper par le faux dilemme ‘innovation contre réglementation’ que les entreprises technologiques et leurs dirigeants clament pour étouffer les efforts de réglementation centrés sur les droits humains. Les gouvernements ne doivent pas ignorer les problèmes systémiques des droits humains exacerbés par l’automatisation de nos vies et le déploiement des technologies d’IA. »
« Bien que les gouvernements présentent ces annonces comme des ‘solutions d’efficacité’, elles s’accompagnent souvent de politiques d’austérité et de déploiement de technologies d’IA intensives en données. De plus, ces systèmes renforcent la discrimination existante dans la société, entraînant finalement exclusion, inégalités et enracinement du pouvoir des entreprises. »
« De nombreuses preuves, soutenues par des enquêtes menées par la société civile et des journalistes, exposent les graves conséquences des technologies d’IA opérant sans contrôle. Des systèmes d’armement autonomes létaux à la reconnaissance faciale utilisée pour la surveillance de masse, en passant par les algorithmes de notation des risques utilisés dans le cadre de la migration et pour la distribution d’aides publiques, il est devenu évident que le déploiement et l’utilisation de ces technologies sont incompatibles avec nos droits et méprisent la dignité humaine. »
« Il est également essentiel de reconnaître que les dommages perpétués par les technologies d’IA ont des conséquences qui vont bien au-delà des technologies elles-mêmes. Les chaînes d’approvisionnement exploitées qui les alimentent, reposant sur des pratiques de travail inhumaines et causant de graves dommages environnementaux, ont un impact disproportionné sur les personnes, notamment dans le Global Majority. Compte tenu de ces effets dévastateurs des technologies d’IA, il est impératif que leur impact soit abordé non seulement à l’intérieur des frontières des États, mais aussi au-delà. »
« Toute réglementation sur l’IA doit également être exempte de failles et d’exemptions qui risquent de violer les droits humains. Tous les acteurs publics et privés, y compris les forces de l’ordre, la gestion des frontières et les instances de sécurité nationale, doivent se conformer aux normes des droits humains tout au long du cycle de vie des technologies d’IA, y compris lors des phases de recherche, de développement et de test des technologies d’IA. »
« Plus important encore, les personnes et les communautés touchées par l’IA doivent être habilitées à demander réparation. En prérequis à une réparation efficace, les personnes concernées doivent avoir le droit à l’information et à l’explication des décisions prises avec le soutien de l’IA, y compris sur l’utilisation et le fonctionnement de l’IA dans le système. »
Damini Satija assistera au Sommet Action AI à Paris du 10 au 11 février. Elle sera disponible pour des interviews sur un éventail de questions technologiques, notamment :
- a) Responsabilité algorithmique et intelligence artificielle
- b) Réglementation de l’intelligence artificielle
- c) Big Tech et politiques
- d) Spyware et surveillance
- e) Droits numériques des enfants et des jeunes
Informations pour les journalistes :
Damini Satija est experte en technologie, droits humains et politiques publiques. Elle est la Directrice d’Amnesty Tech, le programme d’Amnesty International dédié aux technologies et aux droits humains, qu’elle a initialement rejoint pour établir le Laboratoire de la responsabilité algorithmique (une unité interdisciplinaire examinant l’impact des technologies d’intelligence artificielle sur les droits humains). Amnesty Tech travaille sur une variété de sujets, notamment le spyware et les cyberattaques, la surveillance, l’utilisation de l’IA par les États et l’automatisation, la responsabilité des grandes entreprises technologiques et les droits des enfants et des jeunes dans les environnements numériques. Avant son passage à Amnesty International, Damini a occupé plusieurs postes en matière de politique technologique. Elle était récemment conseillère senior politique au Centre pour l’éthique des données et l’innovation, l’organe indépendant du gouvernement britannique sur la politique des données et de l’IA.
Points à retenir
- Le Sommet Action AI se tiendra à Paris les 10 et 11 février 2024.
- La voix des communautés touchées par les technologies d’IA doit être renforcée pour garantir une meilleure réglementation.
- Les technologies d’IA nécessitent un encadrement rigoureux pour protéger les droits humains, notamment à l’échelle internationale.
En ouvrant la discussion sur l’impact des technologies d’intelligence artificielle, il peut être intéressant de réfléchir aux moyens d’établir un équilibre entre innovation et protection des droits fondamentaux. La régulation de l’IA représente-t-elle un frein à l’innovation ou un socle nécessaire pour un développement technologique éthique et responsable ? La réponse à cette question peut avoir des répercussions profondes sur la manière dont la société traitera ces outils dans les années à venir.
La réglementation de l’IA est comme une palette : sans encadrement, les couleurs s’entrechoquent. La créativité doit être guidée pour éviter le chaos, tout en innovant !
La régulation de l’IA est essentielle pour protéger les enfants et leurs droits. Sans cela, on risque de les exposer à des dangers invisibles. C’est un vrai sujet de préoccupation!
Il est crucial de mettre les droits humains au cœur de l’IA. Une régulation stricte peut favoriser une innovation éthique, voilà une belle promesse pour l’avenir.
C’est essentiel de mettre en avant les droits humains dans la régulation de l’IA. Sans cela, on risque de creuser les inégalités, surtout pour les plus vulnérables.