Suite à la décision de Google de lever son interdiction concernant l’utilisation de l’intelligence artificielle (IA) pour le développement d’armes et d’outils de surveillance, Matt Mahmoudi, chercheur et conseiller sur l’intelligence artificielle et les droits de l’homme, a déclaré :
« Il est regrettable que Google ait choisi de créer ce précédent dangereux, après des années à affirmer que son programme d’IA ne devait pas être utilisé de manière à contribuer aux violations des droits de l’homme. Amnesty International a une longue tradition de documentation des potentielles violations des droits humains liées à l’utilisation de l’IA comme moyen de contrôle social, de surveillance de masse et de discrimination.
« Les technologies alimentées par l’IA pourraient alimenter des systèmes de surveillance et de destruction à grande échelle, risquant ainsi de provoquer des violations massives et de nuire au droit fondamental à la vie privée. La décision de Google de lever son interdiction sur les armes dotées d’IA permet à l’entreprise de vendre des produits qui alimentent des technologies telles que la surveillance de masse, des drones développés pour des frappes semi-automatisées, ainsi que des logiciels de génération de cibles destinés à accélérer la décision d’éliminer une cible.
« Il est regrettable que Google ait choisi de créer ce précédent dangereux, après des années à reconnaître que son programme d’IA ne devait pas être utilisé d’une manière pouvant contribuer aux violations des droits de l’homme. Amnesty a une longue tradition de documentation des potentielles violations auxquelles l’IA peut mener lorsqu’elle est utilisée pour le contrôle social, la surveillance de masse et la discrimination.
Matt Mahmoudi, Chercheur et conseiller sur l’intelligence artificielle et les droits de l’homme
« Google doit d’urgence revenir sur les modifications récentes de ses principes en matière d’IA et s’engager à ne pas développer ni vendre des systèmes susceptibles de permettre des violations graves des droits de l’homme.
« Il est également essentiel que les acteurs étatiques mettent en place des réglementations contraignantes régissant le déploiement de ces technologies, basées sur des principes de droits humains. La façade de l’autorégulation perpétrée par les entreprises technologiques ne doit pas nous détourner de l’urgence de créer une législation solide garantissant la protection des droits humains. »
Contexte
Mardi, Google a retiré de son site la promesse de ne pas poursuivre des technologies « causant un préjudice global », y compris les systèmes d’armes et de surveillance, ainsi que « des technologies dont l’objectif contrevient aux principes largement acceptés du droit international et des droits de l’homme. » Google a justifié ce changement, affirmant que les entreprises et les gouvernements devaient collaborer sur des IA qui « soutiennent la sécurité nationale. »
Les recherches d’Amnesty International ont documenté comment les systèmes de reconnaissance faciale amplifient le racisme dans la police et menacent le droit de manifester.
En 2019, les recherches d’Amnesty International ont montré que le modèle commercial basé sur la surveillance de Google est fondamentalement incompatible avec le droit à la vie privée et constitue une menace pour d’autres droits, notamment la liberté d’opinion et d’expression, la liberté de pensée, ainsi que le droit à l’égalité et à la non-discrimination.
Points à retenir
- Google a retiré son engagement à ne pas développer des technologies pouvant causer des préjudices, y compris des armes dotées d’IA.
- Les effets de l’IA sur les droits de l’homme soulèvent des préoccupations, notamment en matière de surveillance et de discrimination.
- Il est pressant pour les États d’établir des réglementations strictes concernant l’utilisation de ces technologies.
Cette situation incite à s’interroger sur l’équilibre entre innovation technologique et protection des droits fondamentaux. À une époque où l’IA prend de plus en plus d’importance, il est crucial d’engager un dialogue sur des législations qui garantissent à la fois la sécurité et le respect des valeurs humaines. Quelle place souhaitons-nous accorder à l’éthique face à des avancées technologiques souvent rapides et peu encadrées ?
La décision de Google pose un réel dilemme éthique. Comment concilier innovation technologique avec le respect des droits humains ? Il est temps d’agir pour encadrer ces avancées.
Cette décision de Google nous rappelle à quel point la technologie et l’éthique doivent marcher main dans la main. Négliger les droits humains face à l’innovation est une voie dangereuse.
Cette décision de Google soulève de sérieuses questions sur l’éthique des technologies. Comment garantir que l’innovation respecte les droits humains fondamentaux ?
C’est choquant de voir Google reculer sur ses engagements. L’équilibre entre innovation technologique et droits humains est essentiel. Nous devons rester vigilants et exiger des réglementations strictes.
Cette décision de Google sur l’IA est préoccupante. L’innovation ne devrait pas se faire au détriment des droits humains. Nous devons tous agir pour protéger ce qui compte vraiment.