Un audit récent révèle qu’Instagram n’identifie que 14 % des contenus générés par l’intelligence artificielle. De plus, un modèle KI inexistant a trompé des millions d’utilisateurs, relançant ainsi le débat sur l’identité numérique.
Instagram est en proie à une vague inquiétante de profils frauduleux et de deepfakes. Selon l’audit, la plateforme peine à reconnaître la majorité des contenus générés par des intelligences artificielles. L’affaire a pris une tournure particulièrement notable avec le cas d’un faux profil, celui de « Jessica Foster », qui a webé des millions de followers avant qu’il ne soit révélé qu’elle n’avait jamais existé. Tous les visuels de ce profil étaient en réalité des créations d’IA.
Le faux compte publiait des contenus sponsorisés et diffusait des messages politiques à l’approche des élections de mi-mandat aux États-Unis en 2026. Les analystes soulignent que créer une telle communauté nécessite peu d’efforts, et la tromperie était si bien ficelée que même les utilisateurs les plus aguerris n’y ont vu que du feu. L’intervention d’une analyse des métadonnées a finalement permis de le désactiver.
Faille de Meta : seulement 14 % détectés
Malgré les étiquettes « Made with AI », l’efficacité de détection est en deçà des attentes. L’audit de « The Indicator » a analysé plus de 200 publications générées par IA, et le résultat est alarmant : seuls 14 % ont été identifiés et signalés par les systèmes d’Instagram, à l’inverse de plateformes comme LinkedIn qui s’en sortent mieux.
Les créateurs de deepfakes contournent de plus en plus les filigranes et algorithmes de Meta. La technologie de création de contenus devient de plus en plus sophistiquée, tandis que les systèmes de défense peinent à suivre le rythme. Pour les experts en cybersécurité, cela représente une porte d’entrée dangereuse pour la désinformation, d’autant plus que les subtilités des images sont souvent difficiles à détecter sur les petits écrans des smartphones.
Nouvelles législations et défis persistants : le TAKE IT DOWN Act
Le cadre juridique pour les réseaux sociaux s’est durci, avec le « TAKE IT DOWN Act » qui criminalise les deepfakes sans consentement et impose aux plateformes de retirer ces contenus sous 48 heures. Face à des taux de reconnaissance aussi faibles, Instagram subit des pressions considérables. Les efforts en matière de protection des jeunes et des droits individuels suffisent-ils ?
Les juristes plaident pour une identification proactive des faux comptes, plutôt que de simples réponses aux signalements. Aux États-Unis et en Europe, des consommateurs préparent des actions en justice collectives, visant à rendre les plateformes responsables des préjudices financiers et psychologiques dus à des fraudes par IA. Une question cruciale se pose : les algorithmes favorisent-ils les deepfakes parce qu’ils sont plus provocateurs ?
Plan de Mosseri : vers une nouvelle authenticité
Adam Mosseri, le dirigeant d’Instagram, reconnaît que l’authenticité est devenue une ressource rare à l’ère de l’IA. Sa stratégie propose un changement de cap, privilégiant les contenus bruts aux productions trop retouchées. De nouvelles fonctionnalités dans les messages directs et des canaux exclusifs pour les créateurs vérifiés sont prévues.
Plus que de simplement supprimer les deepfakes, Instagram cherche à se concentrer sur l’identification des vrais créateurs. Des empreintes digitales numériques pour les contenus authentiques pourraient devenir la norme, permettant de discerner l’humain de l’algorithme. Cela impliquerait une plus grande exposition des caractéristiques identitaires pour les utilisateurs, une démarche jugée risquée mais nécessaire pour maintenir la confiance.
Réaction du marché : une opportunité pour les entreprises de sécurité
La réaction du marché a été mesurée, avec une légère baisse de l’action Meta après l’audit. Toutefois, les analystes perçoivent une opportunité pour les entreprises spécialisées dans la sécurité. Le secteur des outils de détection des deepfakes pour les consommateurs est en pleine expansion.
De plus en plus de fabricants de smartphones intègrent des modules de vérification d’IA directement dans leurs systèmes. La pression provient également des partenaires publicitaires qui ne souhaitent pas voir leurs marques associées à des profils frauduleux. L’intégrité de l’environnement publicitaire est essentielle pour Instagram et les améliorations techniques sont une priorité absolue.
À quoi s’attendre ? Vers une analyse comportementale
Les professionnels anticipent que Meta déploiera une nouvelle génération d’algorithmes d’ici mi-2026, capables d’analyser non seulement les caractéristiques visuelles, mais aussi les comportements des profils. Un véritable humain interagit différemment d’un réseau de bots contrôlé par IA.
Des discussions autour de l’intégration de la blockchain pour vérifier les sources d’images sont en cours. Un protocole inviolable documentant le parcours d’une photo pourrait résoudre le problème d’authenticité. Pour les utilisateurs, cela signifierait que la consommation de contenu sera désormais associée à une vérification des labels d’origine. En attendant, la vigilance reste le meilleur rempart.
Points à retenir
- Seules 14 % des créations IA sur Instagram sont détectées.
- Les deepfakes posent de véritables défis en matière de désinformation.
- Le TAKE IT DOWN Act vise à renforcer la responsabilité des plateformes.
- Instagram envisage de recentrer ses efforts sur l’authenticité des contenus.
- Les entreprises de sécurité se positionnent sur un marché en plein essor.
- Une nouvelle génération d’algorithmes pour analyser les comportements pourrait bientôt voir le jour.
En tant que passionné du sujet, je ne peux m’empêcher de m’interroger sur l’avenir de notre interaction avec les technologies numériques. La lutte pour une identité numérique authentique devient cruciale, surtout dans un monde où de plus en plus de faux visages et de fausses voix peuplent nos écrans. Que nous réserve l’avenir en matière de sécurité et de transparence ? La vigilance est-elle suffisante ? Je crois qu’il est temps d’agir pour façonner un internet plus sûr pour tous.