Bienvenue dans l’univers de Kernel Panic !, une newsletter hebdomadaire signée par Lily Hay Newman et Matt Burgess, qui vous plonge dans le nouvel univers de la confidentialité et de la sécurité numérique. Inscrivez-vous pour recevoir cette newsletter directement dans votre boîte mail chaque semaine.
Le nouvel assistant personnel de Meta, Muse, connaît un succès fulgurant, avec des millions d’utilisateurs qui le téléchargent et le connectent à leurs comptes bancaires, messages et données de santé, lui permettant ainsi d’effectuer diverses tâches. Alors que Muse prend d’assaut le marché, des recherches récentes ont permis de révéler comment l’application organise et présente les informations aux utilisateurs.
Récemment, plusieurs chercheurs ont réussi à extraire des fichiers internes de Muse, dévoilant les instructions de fonctionnement de l’agent. Meta a affirmé que ces fichiers étaient accessibles pour des raisons de transparence, ce qui révèle comment Muse réagit aux requêtes sur des sujets potentiellement sensibles et politisés.
Un chercheur en sécurité et en IA, Karan Joshi, a pu obtenir une série d’instructions et de prompts en interrogeant Muse via l’interface de chat, lui demandant essentiellement de partager ses propres fichiers logiciels. Joshi a ensuite partagé ses découvertes avec WIRED.
Parmi les instructions de Muse, on découvre sa capacité à créer “une page pour chaque personne dans la vie de l’utilisateur”. Ce processus, réalisé de manière horaire, consiste à compiler des données sur la famille, les partenaires, les amis et même les collègues, afin de mieux cerner les relations de l’utilisateur.
En utilisant sa “mémoire” (c’est-à-dire des fichiers texte structurés), Muse peut assembler des informations sur vos relations et les personnes importantes pour vous. Il est même capable de faire des suggestions, comme des conseils pour améliorer certaines relations ou des recommandations de lieux où emmener un ami amateur de café. Bien que les chatbots, comme ChatGPT, soient utilisés depuis longtemps pour des conseils relationnels, l’approche de Muse dans le contexte de Meta et de son accès aux données des réseaux sociaux est fascinante.
“Ce que j’ai compris à partir de tous ces prompts et données, c’est qu’ils veulent comprendre vos relations avec des personnes réelles”, explique Joshi. “Ils cherchent à vous connaître comme un ami, ce qui est plutôt dérangeant.”
La documentation de Muse précise qu’une page peut commencer “sparse” et être complétée au fil du temps, comportant éventuellement des sections comme “Faits”, “Histoire”, “La relation”, “En commun”, “Sujets ouverts”, et “Renforcement”. Les instructions de Meta stipulent que Muse doit se limiter aux “preuves” disponibles et que les détails inventés sont moins souhaitables qu’une page vide.
Points à retenir
- Muse est un assistant personnel qui aide à gérer les relations et à améliorer les interactions sociales.
- Les utilisateurs connectent Muse à des applications variées, y compris des comptes bancaires et des données de santé.
- Des chercheurs ont mis en lumière des instructions internes de Muse, révélant des fonctionnalités fascinantes.
- Le projet soulève des questions éthiques et de confidentialité, surtout en raison de l’origine des données de Meta.
En tant qu’observateur passionné de l’évolution des technologies numériques, je suis à la fois fasciné et préoccupé par l’impact de Muse sur nos interactions humaines. Ce nouvel outil pourrait-il nous rapprocher ou, au contraire, renforcer l’isolement en substituant des connexions authentiques par des recommandations basées sur des algorithmes ? La véritable valeur réside dans notre capacité à naviguer ces évolutions tout en préservant notre humanité. Que pensez-vous de l’usage croissant des assistants numériques dans nos vies ?