Le chatbot d’Elon Musk a confondu l’identité de l’héroïque intervenant lors de l’attaque de Bondi Beach. Ce n’est pas la seule erreur de l’intelligence artificielle concernant cet attentat.
La règle numéro un dans l’utilisation des intelligences artificielles génératives est de toujours vérifier ce qu’elles affirment. Cela s’avère particulièrement crucial lors d’événements tragiques, comme l’attaque terroriste survenue à Sydney le 14 décembre. Les moments qui suivent une telle catastrophe sont un terrain propice à la propagation de fausses informations, et c’est ironique que cela puisse être alimenté par un chatbot censé clarifier les informations.
Le chatbot en question, Grok, a été développé par Elon Musk pour son réseau social X. Il a été mis à l’épreuve lorsqu’un utilisateur a demandé : « Grok, quelle est l’histoire derrière cette vidéo ? », en réponse à un clip montrant un citoyen désarmant un des assaillants, Naveed Akram. Ce citoyen, Ahmed el Ahmed, un marchand de fruits d’origine arabe, a bravement attaqué l’assaillant. Son origine et sa religion revêtent une importance particulière, car l’attaque ciblait la communauté juive pendant les célébrations de Hanukkah. Toutefois, l’identité d’Ahmed a été rapidement contestée par l’intelligence artificielle.
Grok a répondu : « Cela ressemble à un vieux vidéo viral d’un homme grimpant à un palmier, probablement pour l’élaguer », déformant ainsi la réalité. Ce n’est pas la seule confusion de Grok. Un autre utilisateur a demandé, faisant référence à une autre vidéo : « Le nom et le passé de cet homme sont-ils confirmés ? ». Grok a initialement approuvé l’identité d’Ahmed, avant de l’attribuer à Guy Gilboa-Dalal, un Israélien prétendument kidnappé par le Hamas. Bien que l’existence de Guy soit avérée, cette information était hors contexte.
Le point culminant de cette confusion informationnelle survient lorsque Grok affirme que l’héroïque intervenant n’est pas Ahmed el Ahmed, mais Edward Crabtree. Selon Grok, Edward est un informaticien de 43 ans, originaire de Sydney, qui a désarmé un terroriste, et ce, en se blessant. Cette fake news s’est répandue comme une traînée de poudre sur les réseaux sociaux.
Il est essentiel de s’interroger sur les sources de ces fausses informations. La vérité est qu’elles proviennent d’un article publié par un site nommé The Daily, créé deux heures après l’attentat. Ce site, peu fiable et alimenté par des contenus générés par intelligence artificielle, a publié un récit erroné qui a été relayé sans discernement. « J’ai agi par instinct », déclarait le faux héros alors que Grok, malheureusement, alimentait la confusion en partageant cette fausse identité avec les utilisateurs de X, qui ont pris cette information pour argent comptant.
Points à retenir
- L’importance de vérifier les sources lors d’une crise pour éviter la propagation de fausses informations.
- Les intelligences artificielles, bien qu’utiles, peuvent véhiculer des inexactitudes si elles ne sont pas bien contrôlées.
- Un incident tragique peut rapidement devenir un terreau fertile pour la désinformation sur les réseaux sociaux.
- L’identité d’un héros peut être mal interprétée et entraînée dans des débats inutiles si la vérification des faits n’est pas effectuée soigneusement.
En tant que passionné de journalisme, cette situation soulève en moi de nombreuses questions sur notre responsabilité d’informer avec précision. La prolifération de la désinformation dans nos sociétés modernes, accentuée par l’utilisation croissante des intelligences artificielles, nous incite à réfléchir sur les mécanismes de la vérité. Comment trouver un équilibre entre l’innovation technologique et la fiabilité de l’information ? C’est à nous d’agir et de veiller à ce que la vérité prévale dans un monde où elle semble parfois incertaine.