La Cyber Agency de Catalogne a récemment mis en lumière une problématique croissante : la prolifération de faux profils créés par intelligence artificielle qui se présentent comme des influenceurs âgés sur des plateformes telles qu’Instagram, Facebook ou TikTok. Ces profils ont pour but de diffuser des informations trompeuses et de promouvoir des produits douteux. De nombreux comptes partagent une adresse e-mail commune pour obtenir le livre qu’ils font la promotion, bien qu’il s’agisse en apparence d’ouvrages distincts.
Les autorités signalent que ces utilisateurs redirigent souvent vers des sites où sont vendus livres ou guides sans mentionner leurs auteurs. Dans certains cas, ces comptes incitent les gens à abandonner des traitements médicaux en déconseillant la médecine conventionnelle, ce qui peut potentiellement nuire à la santé de leurs abonnés.
Buzz sur la nutrition
Des comptes tels que Paco.delcampo, Sofia.saludencasa et Eduardo.holisticovida, pour n’en citer que quelques-uns, diffusent des informations erronées sur l’alimentation, atteignant des millions de followers. Leurs vidéos sont souvent semblables et traitent des mêmes produits, se contentant de changer le personnage et le décor. Les créateurs exploitent l’intelligence artificielle pour générer différentes versions d’un même profil, ciblant ainsi divers publics avec une production de vidéos hyperréalistes axées sur la santé.
Cette stratégie vise souvent à générer des revenus grâce aux vues ou à la vente de produits, mais elle peut également servir des campagnes de désinformation ou de discrédit visant certains secteurs.
Un manque de fondement scientifique
Pour l’Agència de Ciberseguretat de Catalunya, le principal danger de ces profils, qui accumulent rapidement des millions d’abonnés, réside dans le partage de conseils de santé, de remèdes maison et d’informations sur la nutrition, souvent basés sur des affirmations sans fondement scientifique ou fausses. De plus, il est fréquent que ces contenus ne révèlent pas qu’ils ont été générés par intelligence artificielle, ce qui ouvre la voie à la désinformation.
Identifier un hypertrucage
Pour lutter contre de tels contenus, l’agence propose plusieurs recommandations afin d’identifier un ‘deepfake’, c’est-à-dire une manipulation audiovisuelle par IA. Selon leurs observations, plus de 95 % des hypertrucages en circulation sont liés à la pornographie non consentie, mais une hausse de vidéos frauduleuses destinées à désinformer la population a été notée récemment. Les cybercriminels utilisent cette technologie pour rendre leurs escroqueries plus crédibles.
Pour sensibiliser le public à la détection des hypertrucages, il est conseillé d’observer certains éléments lors de la visualisation d’une vidéo, comme le naturel du clignement des yeux, la synchronisation des mouvements des lèvres avec la voix, ou encore l’extrême symétrie du visage. L’analyse du contexte du message et la vérification des informations avec des sources fiables sont également essentielles.
Points à retenir
- Les faux profils créés par intelligence artificielle piègent les utilisateurs avec des conseils souvent fallacieux.
- Les plateformes sociales facilitent la désinformation lorsqu’elles ne régulent pas ces contenus.
- Il est important de se méfier des conseils de santé basés sur des témoignages non vérifiés.
- Utiliser des outils de vérification pour distinguer le vrai du faux sur Internet est crucial.
- La vigilance personnelle face aux contenus partagés est indispensable pour ne pas tomber dans le piège de la désinformation.
En tant que lecteur, il est passionnant de réfléchir à l’évolution des réseaux sociaux et à leur impact sur notre perception de l’information. La facilité d’accès à des contenus, souvent sans vérification, pose des défis importants. Comment pouvons-nous naviguer en toute sécurité dans cet océan d’informations ? C’est une question à laquelle nous devons tous réfléchir collectivement.