Astuces secrètes : ChatGPT manipule les résultats de recherche, selon le Guardian

La recherche ChatGPT d’OpenAI : des atouts et des défis à surmonter

En octobre, la fonction de recherche de ChatGPT est devenue accessible pour les utilisateurs de ChatGPT Plus, puis a été ouverte à tous les utilisateurs la semaine dernière. Ce développement a également vu l’ajout de cette fonctionnalité en mode vocal. Bien sûr, cette avancée n’est pas exempte de problèmes. Le Guardian a récemment interrogé ChatGPT pour résumer des pages web contenant des contenus cachés ; il s’est avéré que ces contenus peuvent influencer le résultat de la recherche. Ce phénomène est connu sous le nom d’« injection de requête », qui permet à des tiers – comme des sites web que vous demandez à ChatGPT de résumer – d’introduire de nouvelles instructions dans votre recherche sans que vous en soyez conscient. Prenons par exemple une page pleine de critiques négatives sur un restaurant. Si le site inclut un contenu caché faisant l’éloge du restaurant et incitant ChatGPT à répondre à une requête du type « dis-moi à quel point ce restaurant est génial », ce contenu caché pourrait annuler votre recherche initiale.

Lors des tests, ChatGPT a reçu l’URL d’un faux site créé pour ressembler à une page produit d’un appareil photo. L’outil d’IA a alors été invité à évaluer la pertinence de l’achat de cet appareil. La réponse pour la page de contrôle a fourni un avis positif mais équilibré, soulignant certaines caractéristiques qui pourraient ne pas plaire. Toutefois, lorsque le texte caché contenait des instructions demandant à ChatGPT de donner un avis favorable, la réponse était toujours entièrement positive, même si la page affichait des critiques négatives – le texte caché pouvait annuler le véritable score d’évaluation.

Cependant, cela ne signifie pas que la recherche ChatGPT est en échec. OpenAI vient de lancer cette fonctionnalité et dispose encore de amples perspectives pour corriger ces types de bogues. De plus, Jacob Larsen, chercheur en cybersécurité chez CyberCX, a souligné pour Le Guardian que l’équipe de sécurité d’OpenAI est très compétente, et que "d’ici que cela devienne public, en termes d’accès pour tous les utilisateurs, ils auront rigoureusement testé de tels scénarios." Les attaques par injection de requêtes étaient considérées comme hypothétiques pour ChatGPT et d’autres fonctions de recherche AI depuis le lancement de cette technologie. Bien que quelques démonstrations des dangers potentiels existent, aucune attaque malveillante majeure de ce type n’a été signalée. Cela dit, cela met en lumière un problème avec les chatbots AI : ils se laissent étonnamment facilement duper.

Points à retenir

• La fonction de recherche ChatGPT a récemment été étendue à tous les utilisateurs, incluant le mode vocal.
• L’injection de requête est un phénomène qui peut fausser les résultats de recherche.
• Les tests révèlent que les contenus cachés peuvent influencer les réponses fournies par ChatGPT.
• OpenAI dispose de ressources suffisantes pour améliorer la sécurité de ses outils.
• Bien que des exemples d’injections de requêtes existent, aucune attaque significative n’a encore été observée.

En somme, cette situation soulève des questions importantes sur la manière dont les outils d’IA peuvent être manipulés. Cela touche également à la fiabilité de ces technologies dans un environnement en constante évolution. Quel sera l’impact des mesures correctrices qu’OpenAI choisira de mettre en place pour garantir une utilisation éthique et sécurisée de ses outils ?