10 février 2025
En réaction à la décision de Google de lever son interdiction sur l’utilisation de l’intelligence artificielle (IA) pour le développement d’armes et d’outils de surveillance, Matt Mahmoudi, chercheur et conseiller en intelligence artificielle et droits de l’homme, a déclaré :
« Il est regrettable que Google ait choisi d’établir ce précédent dangereux, après des années à reconnaître que leur programme d’IA ne devrait pas être utilisé d’une manière pouvant contribuer à des violations des droits de l’homme. Amnesty International a une longue tradition de documentation des violations potentielles qui peuvent résulter de l’utilisation de l’IA comme moyen de contrôle social, de surveillance de masse et de discrimination. »
« Les technologies alimentées par l’IA pourraient alimenter des systèmes de surveillance et des dispositifs létaux à une échelle vaste, ce qui pourrait entraîner des violations massives des droits et porter atteinte au droit fondamental à la vie privée. La décision de Google de revenir sur son interdiction concernant les armes basées sur l’IA permet à l’entreprise de commercialiser des produits qui favorisent des technologies telles que la surveillance de masse, les drones développés pour des frappes semi-automatisées et les logiciels de génération de cibles conçus pour accélérer la décision de tuer. »
« Google doit d’urgence annuler ses changements récents dans ses principes sur l’IA et s’engager à ne pas développer ou vendre des systèmes qui pourraient permettre des violations graves des droits de l’homme. »
Matt Mahmoudi, chercheur et conseiller en intelligence artificielle et droits de l’homme
« Google doit d’urgence annuler ses changements récents dans ses principes sur l’IA et s’engager à ne pas développer ou vendre des systèmes qui pourraient permettre des violations graves des droits de l’homme. »
« Il est également essentiel que les acteurs étatiques établissent des réglementations contraignantes régissant le déploiement de ces technologies, fondées sur des principes des droits de l’homme. La façade de l’auto-régulation pratiquée par les entreprises technologiques ne doit pas nous détourner de l’urgence de créer une législation solide qui protège les droits de l’homme. »
Contexte
Le mardi, Google a retiré de son site l’engagement promettant de ne pas poursuivre des technologies qui « causent un préjudice global », y compris les armes et les systèmes de surveillance, ainsi que les « technologies dont l’objectif contrevient aux principes largement acceptés du droit international et des droits de l’homme. » Google a défendu ce changement en soulignant que les entreprises et les gouvernements devaient collaborer sur des projets d’IA qui « soutiennent la sécurité nationale. »
La recherche d’Amnesty International a documenté comment les systèmes de reconnaissance faciale amplifient des pratiques policières discriminatoires sur le plan racial et menacent le droit à la protestation.
En 2019, une étude d’Amnesty International avait révélé que le modèle économique de surveillance de Google était intrinsèquement incompatible avec le droit à la vie privée et posait également une menace pour d’autres droits, notamment la liberté d’opinion et d’expression, la liberté de pensée, ainsi que le droit à l’égalité et à la non-discrimination.
Points à retenir
- Google a récemment annulé son interdiction sur l’utilisation de l’IA dans le développement d’armes et de systèmes de surveillance.
- Cette décision soulève des préoccupations sur les violations potentielles des droits humains liées à l’utilisation de technologies de surveillance.
- Amnesty International met en avant les dangers que posent les technologies de reconnaissance faciale, notamment en matière de discrimination raciale.
Ce choix de Google ouvre la voie à un débat crucial sur la régulation des technologies avancées. Si les entreprises sont encouragées à développer des solutions innovantes pour des raisons de sécurité, il est primordial que les discussions sur les implications éthiques et les protections des droits de l’homme soient intégrées de manière systématique dans le développement technologique. Quels mécanismes devraient être mis en place pour garantir que ces innovations ne se retournent pas contre les valeurs fondamentales de notre société ?
La décision de Google soulève des questions éthiques essentielles. Il est crucial de garantir que l’innovation technologique respecte les droits de l’homme et ne serve pas à des fins néfastes.