Contrairement à d’autres régions, le New Jersey n’a pas encore mis en place de législation spécifique régissant l’utilisation des outils d’IA dans les pratiques d’emploi. Cependant, plus tôt ce mois-ci, le procureur général du New Jersey, Matthew J. Platkin, a annoncé que la Division des droits civils (“DCR”) avait lancé une nouvelle initiative sur les droits civils et la technologie pour aborder les risques de discrimination engendrés par l’utilisation de l’intelligence artificielle (“IA”) et des outils de décision automatisée sur le lieu de travail.
Dans le cadre de cette initiative, le bureau du procureur général du New Jersey et la DCR ont conjointement publié un mémorandum d’orientation pour expliquer comment la loi du New Jersey sur la discrimination (“LAD”) s’applique face à l’évolution rapide du paysage technologique.
Le message est sans équivoque : la LAD s’applique à l’utilisation des outils d’IA tout autant qu’aux décisions humaines. Bien que l’on reconnaisse que les outils d’IA et les systèmes de décision automatisée peuvent jouer un rôle essentiel dans la réduction des biais, le mémorandum souligne que des biais peuvent être intégrés dans ces outils si le racisme systémique, le sexisme ou d’autres inégalités ne sont pas pris en compte lors de la conception, de l’entraînement et du déploiement de ces technologies.
Que ce soit intentionnel ou non, l’implémentation de l’IA sur le lieu de travail peut entraîner des résultats discriminatoires pour les employés. Il est crucial qu’un employeur ne puisse pas s’exonérer de sa responsabilité en invoquant l’utilisation d’un outil de décision automatisée tiers.
Que signifient concrètement ces nouvelles pour les employeurs ?
Il ne fait aucun doute que les outils automatisés peuvent avoir diverses conséquences bénéfiques lorsqu’ils sont mis en œuvre de manière appropriée par les employeurs. Cependant, ces derniers doivent être conscients que des biais peuvent être introduits dans les outils de décision automatisée – avec ou sans intention – et par conséquent, l’utilisation non maîtrisée de ces outils sera soumise au même niveau d’examen que celui d’un décideur humain selon la LAD.
Pour éviter toute responsabilité, les employeurs doivent soigneusement évaluer leurs fournisseurs de technologie et se familiariser avec les outils qu’ils ont adoptés. Poser des questions et maintenir une supervision humaine sur ces outils sera essentiel pour éviter des résultats discriminatoires et se prémunir contre d’éventuelles réclamations.
Nous suivrons attentivement ce sujet important pour toute nouvelle orientation émanant de l’État, des efforts d’application ou des litiges privés qui peuvent éclairer la meilleure manière de naviguer dans l’utilisation de l’IA et des outils de décision automatisée en milieu professionnel.
Points à retenir
- Le New Jersey introduit une initiative pour analyser l’usage de l’IA dans le lieu de travail.
- La loi sur la discrimination du New Jersey s’applique également aux décisions prises par intelligence artificielle.
- Les biais peuvent être introduits dans les outils d’IA, ce qui peut entraîner des résultats discriminatoires.
- Il est important pour les employeurs de sélectionner minutieusement leurs fournisseurs technologiques.
- Un contrôle humain est nécessaire pour minimiser les risques de discrimination par le biais des technologies automatisées.
L’émergence de ces directives dans le New Jersey illustre la complexité croissante que l’introduction de l’IA entraîne sur le lieu de travail. Cela soulève des questions essentielles sur la responsabilité des employeurs face à des outils qui, bien que potentiellement bénéfiques, doivent être utilisés avec soin. Alors que la technologie progresse, il sera crucial de trouver un équilibre adéquat entre efficacité et équité. Quelles démarches supplémentaires pourraient être envisagées pour garantir l’intégrité des processus de décision automatisée dans les milieux professionnels ?
Oh là là, l’IA et les biais, c’est comme si on mélangeait peinture et aquarelle ! Rester vigilant est essentiel, n’est-ce pas ? Quels sont vos outils préférés pour éviter les pièges ?