Jersey est confrontée à une inquiétante montée de comportements en ligne, allant des deepfakes générés par l’IA visant des enseignants, à des intrusions audacieuses vantant des actes de vol en magasin. La police surveille désormais plusieurs types de contenus nuisibles circulant sur TikTok.
Deepfakes et professeurs en ligne
La semaine dernière, une publication du Jersey Evening Post a révélé qu’un compte TikTok se moquant de professeurs des écoles de Grainville avec des vidéos compromettantes avait été signalé à la police. Ces images, créées via une application AI gratuite, ont été visionnées plus de 20 000 fois et partagées plus de 1 000 fois.
Certains clips montraient des enseignants dans des situations dégradantes, comme manger de la nourriture pour chiens ou danser avec des sous-entendus inappropriés. Le compte, se présentant comme officiel, a été supprimé rapidement.
Le ministre de l’Éducation, Rob Ward, a condamné ces actes qualifiés de « profondément inappropriés », en soulignant l’importance de surveiller l’utilisation de la technologie AI dans les établissements scolaires.
Comportements préoccupants en ligne
Un autre compte intitulé “Jersey Ranking Hauls” a également été retiré de TikTok après avoir affiché des vidéos se vantaient de vols présumés dans des magasins locaux, atteignant plus de 300 000 vues avant d’être supprimées. Actuellement, les forces de police de Jersey n’ont pas constaté d’augmentation des vols liés à ces vidéos.
Enfin, l’exploration urbaine, ou “urbex”, où des jeunes filmés en train de s’introduire dans des sites abandonnés ou fermés, a également suscité des inquiétudes. Le ministre des Infrastructures a exhorté les parents à discuter des dangers de ce type de comportement.
Mesures en cours
Un projet de loi visant à renforcer la sécurité en ligne des insulaires est en cours, pour accorder davantage de droits relatifs à l’image personnelle. Ce projet répond à un besoin crucial, après des constatations révélant que les procédures de protection sur Internet à Jersey sont moins robustes qu’au Royaume-Uni et en Europe.
Cette législation obligerait les plateformes de médias sociaux à offrir des procédures de plainte accessibles pour la suppression de contenu jugé illégal, y compris des images intimes partagées sans consentement.
L’IA et ses enjeux
Le Bureau du Commissaire à l’Information de Jersey a récemment signé une déclaration conjointe avec plusieurs autorités internationales de protection des données pour signaler des préoccupations concernant l’utilisation des systèmes d’IA qui peuvent produire des images et vidéos réalistes, souvent à l’insu des personnes représentées. Le Commissaire a déclaré que ces technologies, bien qu’ayant un potentiel prometteur, sont utilisées pour nuire à des personnes réelles.
Points à retenir
- L’augmentation des deepfakes pose de sérieux problèmes de réputation pour les enseignants.
- Les contenus glorifiant le vol en magasin incitent à des comportements inappropriés parmi les jeunes.
- Les discussions familiales autour des dangers des réseaux sociaux sont cruciales pour la sécurité des jeunes.
- Le projet de loi pour la protection des droits en ligne pourrait changer la donne en matière de gestion de contenu illégal.
Il est essentiel de prendre conscience des défis que pose l’évolution de notre interaction avec la technologie et les réseaux sociaux. La frontière entre l’humour, l’irrévérence, et le respect des individus se brouille, et la responsabilité collective augmente. En tant que communauté, nous devons nous engager à éduquer les jeunes sur l’utilisation éthique et responsable des outils numériques.