À Berlin, au célèbre Kottbusser Tor, la police teste depuis août un projet pilote de vidéosurveillance assistée par intelligence artificielle (IA) à l’aide de 30 caméras. Une nouvelle technologie est conçue pour détecter des comportements suspects à partir des images sans recourir à la reconnaissance faciale biométrique. C’est à la police qu’il revient de décider si les alertes de l’IA justifient une intervention.
Iris Spranger, la sénatrice à l’Intérieur de Berlin, a déclaré que cet outil vise à « détecter rapidement les situations dangereuses et à diriger les forces de l’ordre vers les incidents les plus préoccupants ». Kottbusser Tor, point névralgique de la criminalité depuis de nombreuses années, suscite une forte opposition de la part des politiques d’opposition et de défenseurs des droits de la personnalité. Kilian Vieth-Ditlmann d’Algorithm Watch met en garde : « On crée une infrastructure de surveillance qui pourrait mener vers des mesures encore plus intrusives. » Ce dernier souligne également l’effet intimidant des caméras : « Est-ce que je vais encore à une manifestation syndicale ou à un counseling si je crainds d’être observé ? »
À Berlin, un dilemme fondamental émerge autour de la surveillance par IA : comment privilégier la sécurité tout en respectant les droits fondamentaux ? Quelle est la limite entre ce qui est techniquement possible et ce qui est éthiquement acceptable ?
Des avertissements, pas des décisions autonomes
Jan Taube, directeur de l’entreprise Staige, qui développe la technologie, aborde ces questions de manière approfondie. Selon lui, « l’essentiel est que l’IA soutienne l’humain sans se substituer à lui ». La machine doit rester un assistant, un simple conseiller.
Staige est une société affiliée à Adesso, un prestataire de services IT basé à Dortmund. Le programme utilise des vidéos de surveillance réelles et générées par IA pour créer un jumeau numérique de la zone surveillée, permettant d’évaluer un indice de dangerosité. Lorsque ce seuil est dépassé, une alerte est envoyée aux services concernés. « Souvent, un simple avertissement verbal suffit », explique Taube. « À vous, dans le pull vert : veuillez cesser ce comportement. » En dehors de ces alertes, les images ne sont pas affichées afin de protéger la vie privée.
Une technologie en pleine évolution
Avec l’augmentation des violences publiques et les menaces hybrides de la Russie, l’acceptation sociale de la vidéosurveillance est en hausse, note Taube. De plus, les avancées technologiques récentes ont réduit le coût de traitement des grandes quantités de données, rendant cette surveillance plus accessible. D’autres villes en Allemagne, comme Mannheim, Francfort et Hambourg, suivent également des projets similaires.
En effet, l’ancien projet de Mannheim repose sur un système de 70 caméras gérées par l’Institut Fraunhofer. Ces caméras détectent en temps réel la présence humaine et analysent les comportements physiques pour signaler des incidents potentiels à la police, laissant à cette dernière le choix d’intervenir ou non.
Reconnaissance faciale à Francfort
Dans le quartier de la gare de Francfort, la police utilise depuis l’année dernière la reconnaissance faciale assistée par IA, capable de comparer des visages avec une base de données utilisée pour des recherches criminelles. Environ 300 000 visages sont scannés quotidiennement, avec la promesse que ces données soient immédiatement supprimées après chaque recherche, nécessitant toujours un mandat judiciaire.
Bien que ces projets se multiplient dans le pays, leur mise en œuvre reste embryonnaire comparée à ce qui est observé dans des pays comme les États-Unis ou la Chine, où les technologies de surveillance sont courantes et souvent controversées. En revanche, les critiques soulignent les dérives potentielles de ces systèmes, notamment en matière de protection de la vie privée.
Le débat sur la surveillance en Amérique
Aux États-Unis, des mouvements de résistance se sont formés contre des systèmes de surveillance comme ceux de Flock Safety. Les caméras de ce fournisseur, qui scrutent les plaques d’immatriculation, sont devenues une source de controverse, accusées de faciliter la surveillance de masse.
De même, la Electronic Frontier Foundation (EFF) soulève de vives inquiétudes sur la manière dont ces technologies peuvent être utilisées abusivement, entraînant ainsi un souhait croissant de régulation. face à l’opposition publique croissante, de nombreuses municipalités ont récemment annulé leurs contrats avec des sociétés de surveillance.
Les défis de la reconnaissance faciale
Les cas récents d’abus liés à ces systèmes soulignent la nécessité d’une règlementation stricte et d’un contrôle des données collectées. L’efficacité de ces technologies pour réellement prévenir la criminalité reste sujette à débat et dans de nombreux cas, les preuves font défaut.
Conclusion
En somme, alors que l’IA s’immisce de plus en plus dans notre quotidien, il est essentiel d’initier un dialogue sur ses implications. Les perspectives d’améliorer la sécurité publique sont séduisantes, mais à quel prix ? Comment trouver l’équilibre entre la sécurité et la préservation des libertés individuelles ? Cette question mérite d’être approfondie et pourrait orienter l’avenir de notre société.
Points à retenir
- La vidéosurveillance assistée par IA est actuellement testée à Berlin sous forme de projet pilote.
- Un soutien humain est essentiel dans la décision d’intervention suite aux indications de l’IA.
- Les projets similaires se développent dans plusieurs villes allemandes comme Mannheim et Francfort.
- Les technologies de surveillance en Chine et aux États-Unis évoluent plus rapidement, suscitant des débats éthiques.
- La problématique de la vie privée et des abus potentiels d’utilisation est au centre des préoccupations.