Les outils de création générative ont d’abord été perçus comme une agréable possibilité où l’imagination de l’utilisateur dictait le cadre. Cependant, leur évolution, comme c’est souvent le cas avec ce qui peut être marchandisé, a donné naissance à des créations de qualité parfois douteuse, dissimulant derrière un format attrayant des dangers importants.
C’est le cas des populaires “frutinovelas”, des séquences mettant en scène des fruits anthropomorphes évoluant dans un univers où ils reproduisent la vie adulte. Ces productions inondent des plateformes comme TikTok, avec un arrière-plan inquiétant, alerté par plusieurs analyses : les valeurs et discours véhiculés sont loin d’être appropriés pour le jeune public qu’elles ciblent.
Des productions apparemment inoffensives mais pourtant risquées
Une mise en garde récente provient de l’initiative académique Red Global sur l’Extrémisme et la Technologie (GNET). Cette organisation souligne que ces productions, apparemment innocentes et attrayantes pour les enfants, cachent en réalité “un contenu violent et extrémiste” à travers des images hyperréalistes et des vidéos générées par l’intelligence artificielle. Grâce à ces fruits souriants, les créateurs réussissent à contourner les filtres de modération pour endoctriner les jeunes utilisateurs avec des pratiques totalement inappropriées à leur développement.
Le piège est simple mais efficace : la présence d’une banane ou d’une fraise souriante suffit à maintenir l’attention des plus jeunes. Dans les premières scènes, le danger n’est pas perceptible, mais il se manifeste au fur et à mesure que l’intrigue progresse. Les voix off et les vidéos qui suivent commencent à introduire discours de haine, symboliques extrémistes, théories du complot ou violence explicite.
Ce constat, révélé par la GNET, met en lumière une augmentation de ce type de contenus destinés aux enfants, dont le contenu ne devrait pas atteindre de si jeunes esprits. Le véritable risque réside, comme le souligne l’organisation, dans la normalisation de comportements inadaptés dès le plus jeune âge, en s’appuyant sur des dessins animés que les enfants acceptent initialement sans crainte.
Le risque de banaliser la violence dès l’enfance
Cependant, l’évolution de ces séries dénote des comportements contraire aux valeurs appropriées pour les jeunes, donnant ainsi moins d’importance à la violence. Les chercheurs de l’étude mettent en garde quant à un futur où :
“Ce type de contenu peut créer un terrain favorable à la consommation de matériel audiovisuel violent, piégeant ainsi les jeunes dans la radicalisation en ligne et l’absorption de violence audiovisuelle.”
Le phénomène des frutinovelas illustre le revers de la production de masse de contenus via l’intelligence artificielle. La modération sur les réseaux sociaux reste en retard par rapport aux stratégies de ceux qui exploitent chaque nouvelle opportunité pour tirer profit, tout en influençant la formation des générations futures. Dès lors, il est primordial d’évaluer et de mettre en place des filtres adaptés pour le divertissement numérique, surtout pour les groupes les plus impressionnables.
Points à retenir
- Les “frutinovelas” sont populaires sur des plateformes comme TikTok, mais leur contenu peut s’avérer dangereux pour les enfants.
- Les productions utilisent des personnages attrayants pour introduire des discours violents et extrémistes.
- Il existe un risque de normalisation de comportements inappropriés dès le plus jeune âge.
- Les outils de création générative doivent être surveillés pour éviter les dérives.
- La question de la régulation est essentielle pour protéger les jeunes utilisateurs des contenus néfastes.
En tant que passionné de l’évolution des médias numériques, je ne peux m’empêcher de m’interroger sur les implications de tels contenus sur notre société. Comment ces productions influencent-elles la perception des jeunes face à la violence et aux valeurs sociétales ? Il est essentiel d’aborder cette dynamique avec vigilance et responsabilité. Les générations futures méritent un contenu qui éduque plutôt que d’endormir leur sens critique.