Une faille de sécurité majeure découverte dans l’IA de Meta

Le chercheur en sécurité Sandeep Hodkasia, fondateur de la société AppSecure spécialisée dans les tests d’intrusion, a révélé une grave vulnérabilité dans l’intelligence artificielle proposée par Meta. En enquêtant sur le fonctionnement des modifications de requêtes par l’IA, il a constaté que chaque prompt et réponse étaient reliés à un numéro unique.

En manipulant ce numéro unique à travers un suivi du trafic réseau, Hodkasia a pu accéder aux prompts et réponses d’autres utilisateurs, ce qui représente un risque important, notamment lorsque les utilisateurs saisissent des informations personnelles – que ce soit pour des conseils, la rédaction de CV ou autres usages fréquents des chatbots.

Pour aggraver la situation, ce numéro unique s’est avéré facile à deviner, offrant ainsi un vecteur d’attaque simple à automatiser pour des pirates cherchant à collecter ces échanges. Ces données pourraient ensuite servir à faire pression sur les victimes, ou être revendus sur le dark web pour des campagnes de phishing ou d’autres abus.

Meta a confirmé à TechCrunch, média reconnu pour la qualité de ses enquêtes technologiques, avoir corrigé cette faille. Le porte-parole Ryan Daniels a ajouté qu’aucun cas d’exploitation malveillante n’avait été détecté et que la société avait récompensé Hodkasia à hauteur de 10 000 dollars pour sa découverte.

Une polémique autour de l’exploitation des données utilisateurs

Au-delà de cette faille, des experts pointent les risques liés à la nouvelle IA autonome de Meta qui utilise les données issues de ses plateformes sociales pour améliorer ses réponses. La firme explique utiliser des années de personnalisation pour permettre à son IA de mieux connaître l’utilisateur et offrir des réponses adaptées, en se basant sur les informations déjà partagées sur Meta.

Mais le professeur Kok-Leong Ong, spécialiste en analyse de données, avertit que cette démarche soulève des questions importantes en matière de vie privée et de sécurité. Les utilisateurs devront jongler entre la protection de leurs données et la qualité de l’expérience offerte par l’assistant IA.

Ong met également en garde contre le risque de diffusion accrue de fausses informations ou de contenus nuisibles, ce qui pourrait aggraver les problèmes de santé mentale et réduire les interactions sociales réelles. Rappelant qu’il y a eu des excuses publiques du PDG Mark Zuckerberg à des familles concernées, il souligne que les agents intelligents évoluant dans un contexte social peuvent amplifier ces risques.

En Allemagne, la commission de protection des données de Rhénanie-du-Nord-Westphalie (Verbraucherzentrale NRW) a demandé un arrêt de l’entraînement de l’IA ainsi qu’une injonction judiciaire contre l’utilisation de ces données. Le tribunal de Cologne a toutefois rejeté cette demande, permettant à Meta de poursuivre son projet.

D’autres pays européens, comme la Belgique, la France et les Pays-Bas, ont également pointé du doigt ces pratiques, invitant les utilisateurs à limiter l’accès à leurs données sur le site de Meta avant le lancement officiel de l’entraînement de l’IA, prévu le 27 mai. Meta a tout de même amélioré la transparence de ses notifications et simplifié les options de refus pour les usagers.

Points à retenir

• Sandeep Hodkasia a exploité une faille de sécurité dans l’IA de Meta en manipulant un numéro unique d’identification des requêtes.
• Cette vulnérabilité permettait d’accéder aux échanges privés d’autres utilisateurs, mettant en danger les données personnelles.
• Meta a corrigé la faille et récompensé le chercheur, sans preuves d’abus recensés jusqu’ici.
• L’utilisation des données sociales dans l’IA soulève des questions complexes autour de la vie privée et de la sécurité.
• Des autorités européennes, dont l’Allemagne, ont tenté de freiner cette exploitation de données, sans succès judiciaire pour l’instant.
• Le véritable risque pourrait venir de la capacité de l’IA à propager des informations erronées et potentiellement dangereuses dans un contexte social.

En fin de compte, voilà encore une illustration qu’il ne faut pas dire “Chatbot, garde mes secrets”, avant de reconsidérer ce vœu pieux. Entre les failles techniques et le grand bazar des données personnelles, on navigue à vue. Mais rassurez-vous, Meta veille… enfin, tant que ça ne nuit pas à son business. À méditer la prochaine fois que vous confierez vos petites confidences à une IA promettant de tout garder pour elle.