Un scandale fait surface : un employé révèle via un titre provocant : « sortie de la douche, elle était nue« . Ce propos fait allusion à une vidéo capturée à l’aide des lunettes Ray-Ban Meta, partagée avec un fournisseur de Meta, une entreprise dont les employés examinent quotidiennement des milliers de vidéos pour attribuer des tags et des métadonnées dans le but de former l’intelligence artificielle de Meta. La société concernée est Sama, basée à Nairobi au Kenya, et fait l’objet d’une enquête menée par le renommé journal Svenka Dagbladet. Des journalistes ont interviewé plusieurs employés, qui ont témoigné de manière anonyme, décrivant leur accoutumance à visionner des vidéos d’utilisateurs de lunettes intelligentes Meta, souvent empreintes d’intimité : des moments de sexualité, des scènes de salle de bain, ou simplement des instants de vie qui ne devraient pas être exposés au regard d’autrui.
Il est important de souligner qu’il ne s’agit pas de vidéos prises à l’insu des utilisateurs, mais de séquences enregistrées volontairement et sauvegardées dans l’application Meta AI, ayant fait l’objet d’une interaction avec le chatbot de Meta. Lorsque ce contenu est analysé par l’IA, l’entreprise peut l’utiliser anonymement pour améliorer ses modèles d’intelligence artificielle. Comme le précise Meta elle-même dans sa communication aux journalistes, l’analyse des contenus issus des interactions avec Meta AI est clairement mentionnée dans les conditions d’utilisation du service, que, comme on le sait, peu de gens lisent réellement. Les employés de Sama se retrouvent ainsi à visionner une multitude de contenus, y compris des incitations à des pratiques illégales et des vidéos contenant des informations sensibles, telles que des données bancaires ou des informations de cartes de crédit.
Dans l’application, il est possible d’accéder à ces conditions d’utilisation dès l’écran de connexion, où il est indiqué que les interactions avec l’IA seront utilisées pour améliorer Meta AI, sauf opposition explicite, que l’utilisateur peut faire après son enregistrement. Les termes stipulent clairement : « Lorsque des informations sont partagées avec l’IA, celle-ci peut parfois les conserver et les utiliser. L’utilisateur ne doit pas partager d’informations qu’il ne souhaite pas voir utilisées et conservées par l’IA, telles que des informations sensibles. […] À certains moments, Meta peut surveiller les interactions de l’utilisateur avec l’IA, y compris les contenus des conversations ou des messages envoyés à l’IA. Cette surveillance peut être automatisée ou manuelle. »
Cependant, même si le contexte est celui de l’application Meta AI nécessaire à l’utilisation des lunettes intelligentes, le terme « vidéo » n’est jamais utilisé ; l’entreprise emploie uniquement les termes « informations », « contenus », « conversations ». La prochaine fois qu’on interroge Meta AI sur une vidéo ou une photo, il serait prudent de se rappeler que cela pourrait bien finir sur l’écran d’un employé en Afrique.
Points à retenir
- Les employés de Sama, une société à Nairobi, examinent les vidéos issues des lunettes Meta pour entraîner l’IA.
- Ces vidéos sont parfois intimes, incluant des moments de vie quotidiens.
- Les utilisateurs partagent ces contenus volontairement via l’application Meta AI.
- Les conditions d’utilisation, bien que accessibles, sont souvent ignorées par les utilisateurs.
- Les termes indiquent clairement que les données peuvent être utilisées et analysées par l’IA.
À travers cette enquête, on retrouve un miroir inquiétant de la manière dont nos interactions numériques sont perçues et utilisées. Cela soulève une question fondamentale sur notre vie privée à l’ère des technologies connectées. En tant qu’utilisateur, étais-je réellement conscient des conséquences de mes partages ? Cette situation appelle à une réflexion sur la transparence et la confiance envers les entreprises technologiques, tout en rappelant l’importance d’une éducation numérique solide.