Intelligence Artificielle et Police : Bilan 2024

Il est désormais impossible d’échapper à l’intrusion de l’« intelligence artificielle » dans notre quotidien. Que ce soit en cherchant une recette et en tranchant à travers des résumés générés par des IA, ou en écoutant votre cousin évoquer comment il a remplacé son médecin par un chatbot, l’IA semble être la réponse à tous les problèmes. Pendant ce temps, certaines personnes s’enrichissent considérablement en convainquant les individus aux poches bien remplies qu’ils doivent intégrer l’IA dans leurs activités professionnelles.

Passons à la question de la police.

Pour de nombreux fournisseurs de technologie, la police évoque des opportunités financières. Les forces de l’ordre disposent de budgets conséquents et subissent des pressions politiques pour lutter contre la criminalité. Elles recherchent cette solution miracle qui pourrait éventuellement éradiquer le crime. Ces facteurs en font des clients idéaux pour les entreprises technologiques qui commercialisent des algorithmes d’apprentissage automatique capables d’analyser des données historiques pour effectuer des reconnaissances, des analyses ou des prédictions.

Les applications de l’IA dans la police existent depuis des décennies, incluant diverses formes de reconnaissance faciale, la police prédictive, l’analyse de données, ou encore la détection automatique de coups de feu. Cependant, cette année a vu émerger un développement préoccupant dans l’intégration entre la police et l’IA : les rapports de police générés par intelligence artificielle.

Propulsé par des entreprises comme Truleo et Axon, un marché en pleine expansion s’est développé autour des fournisseurs utilisant des modèles de langage avancés pour rédiger des rapports de police. Pour Axon, cela se réalise en utilisant l’audio des caméras portées par les policiers afin de créer des rapports narratifs avec un minimum d’intervention de la part des agents, sauf pour ajouter quelques détails ici et là.

Nous avons abordé ce qui pourrait mal tourner lorsque des municipalités laissent leurs forces de l’ordre rédiger des rapports à l’aide de l’IA. Tout d’abord, peu importe le nombre de cases cochées par les policiers affirmant être responsables du contenu du rapport, si un contre-interrogatoire révèle des mensonges dans un rapport, les agents auront désormais la possibilité de se dédouaner en déclarant : « c’est l’IA qui a écrit cette partie ». Après tout, qui n’a jamais entendu parler des hallucinations de l’IA ? Et qui lit réellement les conditions d’utilisation de manière détaillée ?

Et il reste tant d’autres questions. La traduction est un art, pas une science ; comment et pourquoi cette IA comprendra-t-elle des éléments tels que des conflits physiques ou des outils rhétoriques importants de la police, comme les phrases « cessez de résister » ou « déposez l’arme », même si une personne est désarmée ? Comprend-elle bien le sarcasme ? Le jargon ? Les dialectes régionaux ? D’autres langues que l’anglais ? Même si elle n’est pas spécifiquement conçue pour gérer ces situations, si on la laisse faire, les agents l’utiliseront pour tous types de rapports.

Des procureurs à Washington ont même demandé aux policiers de ne pas rédiger de rapports à l’aide de l’IA (pour l’instant) par crainte que des erreurs ne compromettent les procès.

De nombreux films et séries télévisées ont montré que les policiers abhorreraient la paperasse, et si ces représentations dans la culture populaire sont à prendre en compte, nous pouvons nous attendre à ce que cette technologie se propage rapidement en 2025. C’est pourquoi l’EFF surveille de près son utilisation et fournit des mises à jour régulières sur la façon dont elle est déployée.

Cet article fait partie de notre série de rétrospectives de l’année. Découvrez d’autres articles consacrés aux droits numériques en 2024.