Recherche ChatGPT : vulnérable à la manipulation !

Le moteur de recherche basé sur ChatGPT fait face à des vulnérabilités de manipulation

Le moteur de recherche s’appuyant sur ChatGPT présente une sensibilité particulière aux manipulations, notamment par le biais d’une technique appelée « injection de requête ». Cela conduit les utilisateurs à recevoir des réponses biaisées lors de leurs recherches.

Récemment, OpenAI a lancé son moteur de recherche ChatGPT, accessible aux utilisateurs abonnés de l’assistant IA. Selon les développeurs, ce moteur de recherche basé sur des prompts permet d’obtenir des résultats nettement supérieurs à ceux des moteurs de recherche traditionnels. Les utilisateurs sont donc encouragés à adopter ChatGPT comme moteur de recherche par défaut.

Manipulations possibles dans ChatGPT Search

Cependant, une étude récente réalisée par le média The Guardian met en lumière le fait que les résultats fournis par ChatGPT Search sont facilement manipulables, ce qui soulève d’importants risques en matière de sécurité.

Parmi les problèmes identifiés, les fonctionnalités de recherche de ChatGPT réagissent de manière inadaptée lorsque des requêtes lui demandent de résumer des pages web contenant un contenu dissimulé. Ce contenu caché peut imposer des modifications aux réponses de ChatGPT, un phénomène également connu sous le nom d’injection de requête. De plus, des instructions délibérées dans ce contenu caché peuvent amener les réponses de ChatGPT à être non factuelles et à mettre en avant certains avantages, comme ceux de produits spécifiques.

Cette vulnérabilité à la manipulation peut également être exploitée pour des activités malveillantes, comme la diffusion de codes malicieux provenant de sites consultés.

Risques élevés

Des experts en sécurité font état de cette recherche et soulignent qu’il existe depuis longtemps des risques associés à la combinaison de la recherche et des modèles de langage. En conséquence, les réponses fournies par des outils d’IA ne devraient pas toujours être considérées comme fiables.

Récemment, un spécialiste de la sécurité de Microsoft a relaté qu’un passionné de crypto-monnaies avait utilisé ChatGPT pour demander de l’aide en programmation. Le code proposé par ChatGPT contenait une section qui semblait conduire à un accès légitime à la blockchain Solana. Cependant, il s’est avéré que ce code était malicieux et a conduit au vol des identifiants de connexion du développeur, entraînant une perte de 2 500 dollars en cryptomonnaies.

Un temps nécessaire pour l’amélioration

Malgré les risques préliminaires liés à la nouvelle fonctionnalité de recherche de ChatGPT, les experts estiment qu’ils devraient diminuer avec le temps. Ils indiquent que la version actuelle de ChatGPT Search représente un premier pas dans ce domaine.

OpenAI n’a pas répondu aux questions de The Guardian.

Points à retenir

• ChatGPT Search est présenté comme une avancée pour fournir des résultats de recherche de meilleure qualité.
• La technique d’injection de requête pose des risques de manipulation des réponses.
• Des incidents passés ont démontré les dangers potentiels de l’utilisation de l’IA pour des tâches sensibles, comme la programmation.
• Les experts soulignent l’importance de faire preuve de prudence face aux réponses générées par l’IA.

L’émergence de ces nouvelles technologies soulève une question essentielle : Comment pouvons-nous renforcer la sécurité et la fiabilité des outils basés sur l’IA tout en profitant de leurs avantages ? Ce dilemme invite à une réflexion approfondie sur l’avenir de l’interaction entre l’humain et l’intelligence artificielle, tout en gardant à l’esprit les implications éthiques et pratiques de leur utilisation.