Mendigo viral : la préoccupation des autorités et l’autre défi de l’IA

Un jeune garçon de 12 ans attend le départ de sa mère pour le travail. Dès qu’il entend le bruit de la porte, il déverrouille son iPad et ouvre une application qu’il maîtrise parfaitement : le nouveau générateur d’images par intelligence artificielle intégré à Snapchat. Il écrit quelques mots : “homme âgé, poivre et sel, barbu, pieds nus, debout devant cette maison”. En quelques secondes, voilà qu’un inconnu désordonné apparaît à l’écran, affichant une expression de fatigue qui semble si humaine. Il envoie une capture d’écran à sa mère par message : “Maman, cet homme dit te connaître de l’enfance. Je l’ai laissé entrer un moment car il avait froid”.

Au bout de quelques secondes, le téléphone sonne.

— !Quoi?! Qui est-ce?! Pourquoi l’as-tu laissé entrer?! — s’exclame la femme, terrifiée et déconcertée.

Avant qu’elle puisse finir sa phrase, son fils lui envoie une seconde image : le même homme, désormais assis sur le canapé. Une autre encore : allongé sur le lit, dormant. La femme, au bord de la panique, contacte d’abord son époux, puis la police. Lorsque les agents arrivent, le garçon (qui voulait simplement capturer la réaction de sa mère pour une vidéo TikTok) observe, incrédule, comment la ‘blague’ prend une tournure sérieuse avec plusieurs voitures de police devant sa maison. Cet homme sans-abri n’était pas un intrus. Ce n’était même pas une personne réelle. C’était une image générée par intelligence artificielle, si convaincante que ni ses parents, ni les policiers n’ont pu la distinguer d’une vraie photographie.

Ces dernières semaines, cette tendance virale, connue sous le nom de “blague du sans-abri”, a gagné en popularité sur TikTok, Snapchat et Instagram. Des milliers d’utilisateurs ont reproduit cette blague, générant leurs propres versions avec l’IA. Le hashtag #homelessmanprank a accumulé plus de 1 500 vidéos en quelques jours, suivant souvent le même schéma : un adolescent feignant d’avoir laissé entrer un inconnu chez lui tout en filmant en cachette la réaction de ses parents pour la publier par la suite.

En Espagne, nous avons trouvé quelques exemples de blagues similaires, certaines visant à taquiner un partenaire. Dans une d’elles, un homme envoie à sa compagne une image de la ‘femme de ménage’, où apparaît une jeune femme en uniforme de domestique dans une pose suggestive, puis envoie d’autres photos d’elle dans leur chambre ou en train de boire un verre avec lui sur le canapé. Une situation similaire se produit dans une autre blague où c’est la petite amie qui envoie à son compagnon des photos d’un soi-disant ‘plombier’ répare les canalisations torse nu parce qu’il avait “chaud”.

Mais le problème survient lorsque ces blagues échappent à tout contrôle. Dans des villes américaines comme Round Rock (Texas) et Salem (Massachusetts), les autorités ont dû intervenir à plusieurs reprises après avoir reçu des appels d’urgence pour des cas présumés d’effraction qui n’ont jamais eu lieu. Elles mettent en garde contre les dangers d’un usage abusif de l’IA pour diffuser de fausses informations. “En plus d’être de mauvais goût, plusieurs raisons expliquent pourquoi cette blague est, pour le dire sans détour, stupide et potentiellement dangereuse”, ont écrit les policiers de Salem sur leur site.

“Cela pourrait même entraîner une intervention du SWAT”, a averti Andy McKinney, commandant de la Division de Patrouille du Département de Police de Round Rock. “Les agents ne savent pas que c’est une blague. Pour eux, cela ressemble à un cambriolage en cours”, a-t-il ajouté.

En Ohio, la situation a déjà eu des conséquences légales. Le bureau du shérif du comté de Brown a indiqué que deux mineurs ont été cités à comparaître pour leur participation à des incidents liés à ces blagues. “Nous voulons être clairs : ce comportement n’est pas une blague, c’est un délit”, ont déclaré les autorités dans un communiqué. Le phénomène suscite également des inquiétudes dans plusieurs pays d’Europe. Au Royaume-Uni, la police du Dorset a déployé des unités après qu’un père désespéré a signalé qu’un inconnu était chez lui. En Irlande, la police a averti la population sur la façon dont les outils d’IA peuvent générer des images faussement convaincantes.

Des spécialistes mettent en garde depuis des années contre les dangers des deepfakes — des vidéos manipulées numériquement pour faire croire à des actions ou des propos d’individus qui n’ont jamais eu lieu. Cependant, les préoccupations étaient souvent centrées sur des scénarios plus graves : politiciens inventés, célébrités clonées… Personne ne s’attendait à ce que les premiers conflits émergent des chambres d’adolescents utilisant des applications gratuites.

Voilà où réside une partie du problème. Ces outils ne sont plus réservés aux experts en technologie. Aujourd’hui, même un enfant avec un téléphone peut créer des images ou des vidéos indiscernables de la réalité en haute qualité. Avec le lancement de Sora 2, le nouveau modèle d’IA générative de vidéos développé par OpenAI, il est devenu clair que la frontière entre le réel et le faux est presque complètement estompée. Un employé de l’entreprise a récemment partagé avoir créé une vidéo montrant son PDG, Sam Altman, “voler dans un supermarché”, avec une qualité proche de celle des caméras de sécurité. Des applications comme celle-ci, ou Seedream, développée par ByteDance, permettent de créer des images et vidéos photoréalistes en décrivant simplement ce que l’on veut.

Sam Altman, le directeur d’OpenAI, a récemment reconnu que son nouveau modèle de vidéos pourrait marquer “la fin de la réalité visuelle telle que nous la connaissons”. C’est pourquoi l’entreprise a tenté d’intégrer des technologies pour faciliter l’identification des vidéos générées avec Sora, y compris des filigranes et des métadonnées stockées dans les fichiers agissant comme des signatures. “Nos politiques d’utilisation interdisent de tromper autrui par usurpation d’identité, escroquerie ou fraude, et nous prenons des mesures quand nous détectons un usage abusif”, a déclaré la compagnie.

Mais la prolifération de ce type de contenu transforme Internet en un terrain glissant où tout, d’une photo de famille à une vidéo de sécurité, peut être fabriqué en quelques secondes. Il y a quelques mois, la chanteuse Katy Perry a raconté que sa propre mère avait cru à une image fausse générée par IA, où elle était présente à la Gala du Met. Le magazine TIME a réussi à créer une image de Brad Pitt et Leonardo DiCaprio se serrant la main grâce à Seedream dans Kapwing. Ces situations se produisent également avec des hommes politiques et des entrepreneurs, qui se voient soudainement donner des discours sur des scènes où ils n’ont jamais été. Aux États-Unis, certains membres du Congrès tentent d’adopter une législation protégeant la voix et l’image des individus et des créateurs contre les répliques digitales créées sans leur consentement. Néanmoins, cela reste à l’état de projet.

Comme le souligne Hany Farid, expert en authenticité numérique, dans un article du New York Times, “les réseaux sociaux se sont transformés en une poubelle de contenu manipulé”. Et tout conseil antérieur pour les détecter (comme compter les doigts de la main ou vérifier les ombres) devenait inutile au fur et à mesure que les modèles s’améliorent. Les conséquences de cette méfiance commencent à peine à se faire sentir. Dans le domaine judiciaire, les vidéos de caméras de sécurité (considérées depuis des décennies comme des preuves solides) ne garantissent plus rien. Sur le plan politique, les équipes de campagne craignent qu’un deepfake puisse ruiner leur réputation en quelques heures.

Une étude de Microsoft Research révélait que la capacité humaine à distinguer les images réelles de celles générées par IA est actuellement de seulement 62%. Même les chercheurs concluent que ces résultats “surrévaluent probablement la capacité actuelle des personnes à différencier le vrai du faux”. En d’autres termes, cela revient presque à lancer une pièce de monnaie. Et même s’il existe des filigranes, un simple recadrage ou uneédition rapide suffit pour les supprimer manuellement en quelques secondes.

Des experts, tels que ceux de la Electronic Frontier Foundation, une organisation à but non lucratif défendant les droits numériques des utilisateurs, estiment que nous sommes à un tournant culturel, à un moment où “plus personne ne croit rien”. Le problème ne réside pas dans la technologie elle-même, mais dans la rapidité à laquelle elle a infiltré nos vies sans que nous n’ayons eu le temps de nous adapter. “Nous avons appris à créer des mondes faux, mais pas à vivre avec eux“.

La blague du sans-abri, apparemment triviale, n’est qu’un symptôme d’un changement plus large. C’est une mise en garde que l’IA, dans sa capacité à générer des images parfaites, a franchi le seuil de la confiance. Et si un enfant peut tromper sa mère avec trois phrases et une application gratuite, que pourrait faire quelqu’un avec des intentions plus malveillantes ?