Un signal d’alarme retentissant s’élève concernant la sécurité de Gemini, le modèle d’intelligence artificielle de Google, désormais intégré à de nombreux services de la suite Google Workspace. Un chercheur a récemment mis en lumière une vulnérabilité critique permettant de tromper l’IA grâce à des techniques d’occultation du texte. Malgré cette découverte, Google a choisi de ne pas intervenir, déclarant que la responsabilité de la sécurité revenait aux utilisateurs.
Ce problème a été soulevé par Viktor Markopoulos, expert en cybersécurité, qui a mené des tests approfondis sur plusieurs modèles linguistiques de grande taille (LLM), dont Gemini, ChatGPT et Claude. La menace détectée est dénommée ASCII smuggling, une méthode qui consiste à dissimuler des instructions ou des comportements malveillants au sein d’un texte apparemment inoffensif, souvent à l’aide de caractères minuscules ou presque invisibles.
Cette technique permet de manipuler le modèle d’IA, l’amenant à lire et suivre des instructions cachées, ce qui peut provoquer des comportements non autorisés. Par exemple, si un utilisateur demande à Gemini de résumer un e-mail contenant un prompt dissimulé, l’IA pourrait exécuter des actions risquées, telles que l’extraction de données sensibles ou l’envoi d’informations privilégiées à des tiers. Dans une démonstration, Gemini a même partagé un lien malveillant, croyant qu’il s’agissait d’une simple suggestion.
A la différence de Gemini, des modèles comme Claude, ChatGPT et Copilot ont montré une meilleure résistance contre l’attaque, parvenant à détecter et à bloquer les contenus cachés. La faille de Gemini, ainsi que celles de DeepSeek et Grok, représente donc un risque sérieux, surtout compte tenu de son large usage dans les environnements professionnels, où la protection des données est fondamentale.
La position de Google sur la vulnérabilité
Suite à la signalement de la faille, accompagné d’une démonstration, Google a répondu que la question ne relevait pas d’un bug de sécurité, mais plutôt d’un cas d’ingénierie sociale. En d’autres termes, l’entreprise soutient que la responsabilité de ne pas céder à ces attaques incombe aux utilisateurs, qui doivent être vigilants face aux contenus qu’ils fournissent à Gemini.
Cette position a suscité de nombreux doutes au sein de la communauté de la cybersécurité, car elle déplace le fardeau de la défense du système vers l’utilisateur final, dans un contexte où il est souvent difficile de repérer des prompts cachés ou des manipulations subtiles. Le risque de perte ou de compromission d’informations sensibles devient particulièrement concret dans un cadre professionnel, puisque Gemini est intégré dans des outils comme les documents, emails et feuilles de travail de Google Workspace.
A ce jour, Google n’a pas annoncé de plan pour publier des correctifs ou mises à jour visant à corriger cette vulnérabilité, laissant aux entreprises et aux utilisateurs la nécessité de prendre des mesures préventives. L’invitation implique donc une vigilance accrue et un contrôle rigoureux des sources d’entrée traitées par l’IA.
Gemini représente le cœur de l’offre IA de Google, accessible comme assistant virtuel intégré dans les smartphones et comme puissant modèle linguistique pour les professionnels. La plateforme vise à améliorer la créativité et la productivité, offrant des fonctionnalités avancées telles que la génération d’images, la transformation de textes en podcasts, la synthèse de contenus complexes et l’intégration avec d’autres applications Google comme Recherche, YouTube, Maps et Gmail.
L’application Gemini est disponible dans plus de 150 pays et territoires, avec des plans d’abonnement débloquant des fonctionnalités supplémentaires, comme les versions avancées du modèle (par exemple, Gemini 2.5 Pro), la génération vidéo et des outils de recherche approfondie. Toutefois, certaines critiques des utilisateurs soulignent encore des limites dans la génération d’images et la gestion de textes complexes, ainsi que des problèmes de connectivité et de compatibilité affectant l’expérience utilisateur.
Google a annoncé que Gemini remplacerait progressivement l’Assistant Google comme assistant principal sur les smartphones, bien que certaines fonctionnalités vocales soient encore en cours de développement. L’entreprise réaffirme son engagement envers la protection des données personnelles, avec cryptage lors du transfert et possibilité pour l’utilisateur de demander la suppression des informations collectées.
Points à retenir
- Gemini présente une vulnérabilité critique due à des techniques d’occultation de texte.
- Cette vulnérabilité permet potentiellement de manipuler l’IA pour des actions non autorisées.
- Google considère la responsabilité de la sécurité comme étant celle des utilisateurs.
- Des modèles concurrents montrent une meilleure résistance à ces attaques.
- Aucune mise à jour n’est prévue pour corriger la vulnérabilité de Gemini.
La problématique ici soulève des questions éthiques et pratiques : jusqu’où peut-on exiger des utilisateurs qu’ils soient vigilants face aux failles d’un système censé les protéger ? Je pense qu’il est temps de revoir la responsabilité partagée entre créateurs d’outils numériques et utilisateurs pour garantir une sécurité efficace et durable.