Tens de milliers de personnes ont été recrutées par une entreprise partiellement détenue par Meta pour former des intelligences artificielles, en fouillant dans des comptes Instagram, en récupérant des œuvres protégées et en transcrivant des bandes sonores pornographiques, révèle le Guardian.
Scale AI, contrôlée à 49 % par l’empire des réseaux sociaux de Mark Zuckerberg, a engagé des experts dans des domaines variés comme la médecine, la physique et l’économie, avec l’objectif de perfectionner des systèmes d’intelligence artificielle via une plateforme nommée Outlier. « Devenez l’expert dont l’IA a besoin », vante leur site, qui propose des emplois flexibles à des personnes aux compétences solides.
Cependant, les travailleurs de la plateforme ont fait état d’une implication dans des pratiques déchirantes, entre la collecte de données personnelles et des activités éloignées de l’affinement des systèmes d’IA de haut niveau.
Outlier est géré par Scale AI, qui a des contrats avec le Pentagone et des entreprises de défense américaines.
Parmi les témoignages, un entrepreneur lié à Outlier a précisé que les utilisateurs des plateformes de Meta, comme Facebook et Instagram, seraient surpris de la manière dont leurs données personnelles, y compris des photos, étaient collectées.
“Je ne pense pas que les gens réalisent qu’il y a quelqu’un à un bureau dans un État quelconque, regardant votre profil [sur les réseaux sociaux], en s’en servant pour générer des données pour l’IA,” a-t-il déclaré.
Le Guardian a discuté avec dix personnes ayant travaillé pour Outlier, dont certaines depuis plus d’un an. De nombreux travailleurs avaient d’autres emplois en tant que journalistes, étudiants ou enseignants, mais souhaitaient gagner un revenu supplémentaire dans une économie de plus en plus touchée par l’IA.
“Beaucoup d’entre nous étaient vraiment désespérés,” a déclaré un travailleur. “Nous avions tous besoin de ce job, moi y compris, et nous avons essayé de tirer le meilleur parti d’une mauvaise situation.”
Comme une nouvelle catégorie de travailleurs temporaires, la plupart d’entre eux avaient conscience de former leurs propres remplaçants. Un artiste a évoqué un “sentiment de honte et de culpabilité” pour sa participation à l’automatisation de ses espoirs.
“En tant qu’être humain aspirant, cela me rend en colère contre le système,” a-t-il ajouté.
Glenn Danas, partenaire au sein du cabinet d’avocats Clarkson, qui défend des travailleurs temporaires d’IA dans des litiges contre Scale AI, estime que des centaines de milliers de personnes à travers le monde travaillent sur des plateformes telles qu’Outlier. Le Guardian a contacté des travailleurs d’Outlier, surnommés “taskers”, au Royaume-Uni, aux États-Unis et en Australie.
Lors d’entretiens, les taskers ont décrit les humiliations croissantes liées à leur emploi dans l’IA : surveillance constante et emplois précaires. Scale AI a été accusée d’utiliser des tactiques de « bait-and-switch » pour attirer les travailleurs, promettant initialement un salaire élevé, puis offrant beaucoup moins. Scale AI a refusé de commenter les litiges en cours.
Ils étaient souvent tenus de passer par des entretiens avec l’IA, sans rémunération, pour se qualifier à certaines missions ; plusieurs pensaient que ces entretiens étaient recyclés pour entraîner l’IA. Tous ont signalé une surveillance constante via une plateforme nommée “Hubstaff”, capable de prendre des captures d’écran des sites visités. Un représentant de Scale AI a précisé que Hubstaff servait à garantir une rémunération précise, sans surveiller activement les travailleurs.
Plusieurs employés ont également rapporté des tâches de transcription de bandes sonores pornographiques ou d’étiquetage de photos d’animaux morts. Un étudiant a même évoqué le cas d’un diagramme illustrant des organes génitaux de bébés.
“Nous avions déjà été informés qu’il n’y aurait pas de nudité dans cette mission. Un comportement approprié, pas de gore…,” a déclaré l’étudiant. “Mais j’ai reçu un transcript audio de pornographie ou des clips aléatoires de personnes vomissant.”
Scale AI a affirmé que les tâches inappropriées étaient rapidement arrêtées et que les travailleurs n’étaient pas obligés de continuer des missions qui les mettaient mal à l’aise.
Les travailleurs d’Outlier ont signalé que des attentes étaient placées sur le raclage de données des réseaux sociaux. Sept d’entre eux ont décrit fouiller dans les comptes Facebook et Instagram d’autres personnes, étiquetant les individus par leur nom et par leur localisation. Des travaux impliquant des utilisateurs de moins de 18 ans ont également été mentionnés.
Le Guardian a pris connaissance d’une mission qui requérait de sélectionner des photos de comptes Facebook d’utilisateurs et de les ordonner selon leur âge.
Plusieurs missionnaires ont trouvé ces tâches perturbantes ; l’un d’eux a tenté de les réaliser en n’utilisant que des photos de célébrités. “J’étais mal à l’aise d’inclure des images d’enfants, mais les matériaux de formation comportaient des enfants,” a indiqué un autre.
Certains taskers ont exprimé leur inquiétude concernant la propriété des œuvres qu’ils étaient amenés à recenser, soutenant qu’ils étaient parfois obligés de puiser des comptes d’artistes et de créateurs suite à un manque d’options.
Scale AI compte parmi ses clients des entreprises de technologie majeures telles que Google et OpenAI, ainsi que le gouvernement américain. Elle répond à un besoin croissant de nouvelles données étiquetées pour former les modèles d’IA de plus en plus complexes.
La plupart des travailleurs d’Outlier continuent d’accepter des missions malgré des conditions de rémunération fluctuantes et des licenciements occasionnels. Dans un avenir où l’IA prend de l’ampleur, beaucoup estiment qu’il n’y a guère d’autres choix.
Points à retenir
- Scale AI, en partie contrôlée par Meta, utilise des travailleurs pour former des systèmes d’IA en utilisant des données des réseaux sociaux.
- Les missions incluent le raclage de données sensibles, comme des photos issues de comptes Instagram et Facebook.
- Les travailleurs, souvent dans des situations précaires, rapportent un sentiment de malaise et de culpabilité lié à leur contribution à l’automatisation.
- Scale AI a été critiquée pour des pratiques de recrutement qui promettent des salaires élevés avant de les réduire.
- Des tâches inattendues, comme la transcription de contenus inappropriés, ont été rapportées par des travailleurs d’Outlier.
À travers cet article, je constate l’émergence d’un débat crucial sur les implications éthiques de l’IA. Comment concilier progrès technologique et respect de la vie privée? Ce dilemme soulève des questions fondamentales sur la responsabilité des entreprises envers ceux qui alimentent leurs systèmes. En tant que passionné de technologie, je me demande où se situe la frontière entre innovation et exploitation. Les avancées de l’IA sont indéniables, mais à quel coût pour ceux qui contribuent à son développement?