Pourquoi le Sommet sur l’Action AI ne tient pas ses promesses

Depuis le lancement de Chat-GPT, l’intelligence artificielle (IA) est devenue un sujet central de discussions à travers le monde, oscillant entre promesses et dangers des nouvelles technologies. Cette situation a engendré d’innombrables débats sur la gouvernance et la régulation des modèles de langage avancés et de l’IA « générative », conduisant à des initiatives telles que l’ordonnance exécutive sur l’IA de l’administration Biden et des principes directeurs internationaux pour le développement de l’IA générative, influençant également le règlement sur l’IA en Europe. En ce sens, le gouvernement britannique a accueilli le Sommet sur la Sécurité de l’IA en 2023, suivi en 2024 par le Sommet sur l’IA de Séoul, menant à cette année au Sommet d’Action sur l’IA organisé par la France.

À l’approche de ce Sommet d’Action sur l’IA à Paris, les lacunes de l’événement deviennent de plus en plus évidentes. Bien que décrite comme un « moment clé pour façonner l’avenir de la gouvernance de l’intelligence artificielle », un examen approfondi de son agenda et des voix qui y seront amplifiées révèle une toute autre réalité.

En se concentrant principalement sur les contributions économiques potentielles de l’IA, sans faire de distinction entre les modèles de langage avancés et la prise de décision automatisée, le sommet néglige beaucoup de façons dont les systèmes d’IA peuvent être détournés pour compromettre les droits fondamentaux et dépasser les limites écologiques déjà fragilisées de notre planète. L’agenda du sommet, qui ne met pas en avant des perspectives nuancées sur les capacités des différents systèmes d’IA et les risques associés, offre une vision biaisée et simpliste, qui ne reflète pas les débats globaux sur la gouvernance de l’IA. Par exemple, le programme principal du sommet ne comprend aucune table ronde abordant les questions de discrimination ou de durabilité.

Un sommet dominé par les intérêts industriels ne peut prétendre être un lieu de transformation

Ce déséquilibre est également visible dans la liste des intervenants, où les représentants de l’industrie surpassent clairement ceux des organisations de la société civile. Bien que de nombreuses ONG organisent des événements parallèles pour contrebalancer les priorités mal orientées du sommet, un sommet dominé par les intérêts industriels ne peut pas se prétendre comme un lieu de transformation pour les discussions politiques mondiales.

Les lacunes significatives du sommet sont particulièrement préoccupantes compte tenu du rôle de leader que les pays européens prétendent jouer en matière de gouvernance de l’IA. Le règlement sur l’IA de l’Union européenne, récemment entré en vigueur, a été salué comme le premier cadre légal au monde à traiter des risques liés à l’IA. Cependant, il reste à voir si ce règlement parviendra réellement à « promouvoir l’adoption d’une intelligence artificielle centrée sur l’humain et digne de confiance ».

Il n’est pas évident que le règlement sur l’IA propose un cadre qui encourage le déploiement d’outils d’IA axés sur l’utilisateur ou s’il favorise des technologies spécifiques au détriment des utilisateurs. Bien que nous apprécions que les nouvelles règles contiennent un langage prometteur sur la protection des droits fondamentaux, les exceptions pour les forces de l’ordre et la sécurité nationale fragilisent certaines des protections. Ceci est particulièrement vrai en ce qui concerne l’utilisation de systèmes d’IA dans des contextes à haut risque tels que la migration, l’asile, le contrôle des frontières et la sécurité publique, où le règlement ne protège guère contre la surveillance de masse et le profilage à l’aide de technologies prédictives. Nous craignons également que d’autres gouvernements n’adoptent les larges exceptions de ce règlement sans bénéficier des solides protections constitutionnelles et des droits humains en vigueur dans le système juridique de l’UE. Nous resterons donc attentifs à la mise en application de ce règlement dans la pratique.

Enfin, le sommet échoue à aborder le rôle essentiel que devraient jouer les droits humains pour établir une base commune pour le déploiement de l’IA, en particulier dans des utilisations à fort impact. Bien que des préoccupations liées aux droits humains figurent dans quelques sessions, le sommet, censé être un forum mondial visant à libérer le potentiel de l’IA au service du bien public, semble en fin de compte manquer l’opportunité de relier clairement cet objectif à la garantie des droits humains internationaux et aux étapes nécessaires à cet égard.

Les pays doivent aborder la fracture numérique de l’IA sans répliquer ses dommages.

Promouvoir l’utilisation des systèmes d’IA par les gouvernements constitue généralement un élément clé des stratégies nationales pour le développement de l’IA à l’échelle mondiale. Cependant, il est essentiel que les pays s’attaquent à la fracture numérique de l’IA sans reproduire ses effets néfastes. Par exemple, nous avons développé des normes interaméricaines en matière de droits humains pour traiter les défis et les violations qui émergent de l’utilisation des systèmes algorithmiques par les institutions publiques en Amérique latine.

Dans un contexte de course mondiale à l’IA, nous n’avons pas besoin de plus de discours enflammés sur l’IA. Au contraire, il s’avère crucial de mener des débats politiques basés sur des données probantes, capables de traiter la centralisation du pouvoir liée à l’IA et de considérer les véritables dommages engendrés par ces systèmes, tout en permettant une implication équilibrée des divers acteurs. Le Sommet d’Action sur l’IA ne sera probablement pas le lieu pour mener cette conversation.