Le texte dissimulé sur les sites internet peut influencer les réponses de ChatGPT, suscitant des inquiétudes quant à la fiabilité de la recherche alimentée par l’IA.
L’outil de recherche ChatGPT d’OpenAI est désormais sous les projecteurs après qu’une enquête du Guardian ait révélé des vulnérabilités face à la manipulation et aux contenus malveillants. Du texte caché sur les sites peut modifier les réponses de l’IA, soulevant des questions sur la fiabilité de cet outil. Cette fonction de recherche, actuellement accessible aux utilisateurs premium, pourrait donner une image biaisée des produits ou services en résumant des contenus positifs placés, même en présence d’avis négatifs.
Le chercheur en cybersécurité Jacob Larsen a mis en garde sur le fait que le système d’IA, dans sa forme actuelle, pourrait autoriser des pratiques trompeuses. Des tests ont révélé que des invites cachées sur les pages web influencent ChatGPT à fournir des avis biaisés. Ce même mécanisme pourrait être exploité pour diffuser du code malveillant, comme l’a montré une récente arnaque en cryptomonnaie où l’outil a involontairement partagé des instructions pour voler des identifiants.
Les experts ont souligné que même si le lien entre la recherche et des modèles d’IA comme ChatGPT présente des opportunités, cela augmente également les risques. Karsten Nohl, un scientifique chez SR Labs, a comparé ces outils d’IA à un « copilote » nécessitant une supervision. Les erreurs de la technologie pourraient amplifier les risques, en particulier parce qu’elle ne possède pas la capacité d’évaluer de manière critique les sources.
OpenAI reconnait la possibilité d’erreurs et met en garde les utilisateurs sur la nécessité de vérifier les informations. Cependant, les implications plus larges, telles que l’impact potentiel de ces vulnérabilités sur les pratiques web, restent floues. Le texte caché, bien que traditionnellement pénalisé par des moteurs de recherche comme Google, pourrait voir une nouvelle utilité dans la manipulation des outils basés sur l’IA, ce qui pose des défis pour OpenAI quant à la sécurisation du système.
Points à retenir
- La recherche d’OpenAI, alimentée par l’IA, montre des signes de vulnérabilité face à la manipulation de contenu.
- Des tests ont prouvé que le texte caché sur les sites pouvait influencer les avis générés par l’IA, augmentant le risque de désinformation.
- Les experts conseillent une supervision rigoureuse de ces outils, soulignant leur incapacité à évaluer les sources de manière critique.
Cette situation pose un véritable dilemme sur la fiabilité des outils de recherche actuels et l’utilisation éthique de l’intelligence artificielle. Il semble essentiel de continuer à explorer non seulement les capacités de ces technologies, mais aussi les responsabilités qui en découlent. Les utilisateurs et les développeurs sont ainsi appelés à rester vigilants pour garantir que les avancées technologiques ne compromettent pas la qualité de l’information accessible.
C’est fascinant de voir comment la technologie peut à la fois ouvrir des horizons et poser des défis éthiques. La vigilance est essentielle pour assurer la qualité de l’information !