Des vidéos d’IA « Cheapfake » provoquent la colère sur YouTube

Dans une récente interview, Washington a exprimé ses réserves concernant l’utilisation de l’intelligence artificielle (IA) dans les vidéos qui semblent reproduire sa voix. “Ils modifient ma voix ou ce qu’ils font pour faire en sorte que ça sonne comme moi, et les gens commentent cela comme si c’était moi, alors que ce n’est pas le cas,” a-t-il déclaré. “Je n’ai pas de compte Instagram. Je n’ai pas TikTok. Je n’ai aucune de ces plateformes. Donc tout ce que vous entendez de cela—ce n’est même pas moi, et malheureusement, les gens suivent cela, et c’est le monde dans lequel vous vivez.”

Clark, quant à lui, a noté que ces vidéos de talk-show semblent susciter une indignation morale, facilitant ainsi la diffusion de désinformations. “C’est une émotion fantastique à déclencher si vous voulez de l’engagement. Si vous rendez quelqu’un triste ou blessé, il sera probablement tenté de garder cela pour lui. En revanche, si vous déclenchez son indignation, il est probable qu’il partage la vidéo avec des amis partageant les mêmes idées et rédige un long commentaire,” explique-t-il. Peu importe si les événements dépeints ne sont pas réels ou même clairement indiqués comme étant ‘générés par IA’, tant que les personnages impliqués peuvent plausiblement agir de cette façon (dans l’esprit de leur public, du moins) dans un autre scénario. L’écosystème de YouTube joue également un rôle ici. Avec tant de spectateurs consommant du contenu de manière passive—en conduisant, en nettoyant, voire en s’endormant—le contenu généré par IA n’a plus besoin d’être poli pour s’intégrer dans un flot d’informations absorbées sans réflexion.

Reality Defender, une entreprise spécialisée dans l’identification des deepfakes, a examiné certaines de ces vidéos. “Nous pouvons partager que certains de nos propres membres de la famille et amis (en particulier les personnes âgées) ont rencontré ces vidéos, et bien qu’ils n’en aient pas été complètement convaincus, ils ont tout de même vérifié avec nous (sachant que nous sommes des experts) pour en valider le contenu,” a déclaré Ben Colman, cofondateur et PDG de Reality Defender.

WIRED a également contacté plusieurs créateurs pour recueillir leurs avis. Seul l’un d’eux, le propriétaire d’une chaîne avec 43 000 abonnés, a répondu. “Je crée simplement des interviews fictives et je le mentionne clairement dans la description de chaque vidéo,” ont-ils déclaré, restant anonymes. “J’ai choisi le format d’interview fictive parce qu’il me permet de combiner la narration, la créativité et une touche de réalisme de manière unique. Ces vidéos donnent l’impression d’une immersion—comme si vous regardiez un véritable moment se dérouler—et ce réalisme émotionnel attire vraiment les gens. C’est comme offrir au public un scénario ‘et si?’ qui semble dramatique, intense, voire surprenant, tout en étant complètement fictif.”

Concernant les intentions derrière ces chaînes, qui sont principalement basées hors des États-Unis, il semble qu’il n’y ait ni agenda politique strict ni un tournant soudain vers la narration immersive comme explication plausible. Cependant, une chaîne utilisant le terme ‘earningmafia’ pour son email laisse entendre des intentions financières plus évidentes, tout comme la nature répétitive des chaînes—WIRED ayant observé des vidéos dupliquées et plusieurs chaînes gérées par les mêmes créateurs, y compris certaines ayant des chaînes sœurs suspendues.

Cela n’est pas surprenant, avec un nombre croissant d’exploitations de contenu, en particulier celles ciblant les plus vulnérables, fermement établies sur YouTube aux côtés de la montée de l’IA générative. De manière répandue, les créateurs choisissent des sujets controversés, tels que des personnages de télévision pour enfants dans des situations compromettantes, voire le procès pour trafic sexuel de P. Diddy, afin de générer autant d’engagement—et de revenus—que possible.