Les conversations avec Grok, le chatbot développé par la société d’intelligence artificielle xAI fondée par Elon Musk, ont récemment fait surface dans les résultats de recherche. Cela rappelle les discussions qui avaient été découvertes via l’indexation de Google à partir de ChatGPT d’OpenAI. Cette fuite est survenue via le bouton “partager” de Grok, qui permettait aux utilisateurs d’envoyer des discussions par e-mail, réseaux sociaux ou SMS. Cependant, ces conversations n’étaient pas destinées à devenir publiques et ont fini par être visibles dans les résultats de recherche de Google, Bing et DuckDuckGo.
Forbes a révélé que plus de 370 000 conversations indexées par les moteurs de recherche, tels que Google et Bing, contenaient des contenus variés. Certaines de ces discussions comportaient des demandes pour que le chatbot résume des actualités ou génère des idées d’affaires, tandis que d’autres faisaient référence à des sujets sensibles, tels que la drogue, le suicide ou la fabrication d’explosifs.
Le site médiatique a souligné que certaines conversations étaient “explicites, haineuses et enfreignaient les règles de xAI”. Des recherches menées sur Grok ont même fourni des instructions sur la fabrication de drogues illicites comme le fentanyl, la création de logiciels malveillants, et la construction d’explosifs.
Les règles de contenu de xAI interdisent l’utilisation de son bot pour promouvoir tout ce qui nuit à la vie humaine, ainsi que le développement d’armes biologiques, chimiques ou de destruction massive. Ce qui est troublant, c’est que des utilisateurs continuent à poser ce type de questions, sans que cela ait semblé dissuader les intentions.
À ce jour, les URL uniques générées lors du partage d’une conversation sur Grok continuent d’être indexées publiquement. Cela signifie que le contenu des chats, ainsi que des fichiers images, feuilles de calcul et d’autres documents, restent accessibles via les moteurs de recherche. La situation avec Grok se distingue légèrement de celle de ChatGPT, car X (anciennement Twitter) avait établi un partenariat avec Google pour indexer volontairement du contenu dans les recherches. Ce partenariat, initialement actif depuis 2011, a été rétabli en 2015, permettant à Twitter d’indexer des tweets dans Google Search grâce à un accord offrant à Google un accès quasi-temps réel à son contenu.
Points à retenir
- Grok de xAI a limité la divulgation de certaines discussions, mais celles-ci apparaissent encore dans des résultats de recherche.
- Des contenus problématiques ont été révélés, allant d’instructions sur les drogues aux sollicitations sur des actes violents.
- Les règles de xAI sont claires sur ce qui doit être évité, bien que cela ne dissuade pas les utilisateurs.
- Le partenariat passé entre Twitter et Google a facilité l’indexation de contenu, mais le rendu public des discussions de Grok pose question.
Cet incident soulève des réflexions sur la gestion des informations partagées par les utilisateurs et l’impact potentiel d’une indexation non contrôlée sur la sécurité et l’éthique des contenus disponibles en ligne. Comment assurer un encadrement adéquat tout en permettant une utilisation saine des technologies ?