Dans l’est de l’Espagne, la police enquête sur un adolescent de 17 ans soupçonné d’avoir utilisé l’intelligence artificielle pour créer et diffuser des images nues truquées de ses camarades de classe féminines, dans l’intention de les vendre en ligne.
Les agents de la Guardia Civil, dans la région de Ribera Alta à Valence, ont ouvert une enquête en décembre dernier, après la plainte d’une élève qui avait découvert un compte sur un réseau social à son nom, affichant une vidéo générée par IA.
Dans un communiqué, la Guardia Civil a expliqué qu’« une série de photos de plusieurs personnes, toutes mineures, figuraient sur ce compte. Ces images avaient toutes été modifiées : les visages originaux avaient été superposés sur des corps entièrement nus. »
La même jeune fille a par la suite signalé un second compte usurpant son identité, ainsi que d’autres comptes proposant des vidéos nues créées par intelligence artificielle, et un site internet où ces images étaient commercialisées.
Au total, 15 autres mineures ont porté plainte pour des faits similaires, ce qui a conduit la police à suspecter qu’un élève de leur établissement était à l’origine de ces manipulations.
En analysant minutieusement les réseaux sociaux, en contactant les hébergeurs et en étudiant un site proposant des services de modification d’images par IA, les enquêteurs ont réussi à retracer la piste du suspect.
« Les policiers ont obtenu les informations d’identification et d’accès utilisées sur ces plateformes — notamment des adresses IP — ce qui les a conduits au domicile d’un camarade des victimes. Ils ont également confirmé que les adresses e-mail employées pour créer les comptes appartenaient à une même personne. »
La Guardia Civil précise qu’un garçon de 17 ans est actuellement visé par une enquête pour corruption de mineurs, sous la supervision d’un tribunal pour la jeunesse à Valence.
L’an passé, quinze mineurs dans la région d’Estrémadure avaient été condamnés à une peine de probation d’un an pour avoir utilisé la même technique d’intelligence artificielle afin de produire et diffuser des images truquées de leurs camarades féminines sur des groupes WhatsApp.
En plus de la probation, les juges les ont contraints à suivre des cours sur l’égalité des sexes et l’usage responsable des technologies.
À l’époque, le tribunal avait expliqué que « les faits établissent que ces mineurs ont utilisé des applications d’IA pour superposer les visages des jeunes filles, pris sur leurs profils sociaux, sur des corps entièrement nus, puis ont partagé ces images modifiées dans deux groupes WhatsApp. »
L’association Malvaluna, qui défendait les familles des victimes, avait souligné la portée sociétale de cette affaire, invitant à une réflexion sur l’urgence d’éduquer à l’égalité entre filles et garçons.
Elle insistait aussi sur le besoin d’une éducation sexuelle adaptée à l’école, afin d’éviter que les enfants ne se construisent leur vision du sexe à travers la pornographie, qu’elle juge source de sexisme et de violence.
Enfin, en mars dernier, le gouvernement espagnol à tendance socialiste annonçait travailler à un projet de loi visant à renforcer la protection des jeunes en ligne, en criminalisant le harcèlement via Internet et l’usage d’images sexuelles truquées par intelligence artificielle sans consentement.
Points à retenir
- La technologie d’intelligence artificielle, aussi fascinante soit-elle, peut vite devenir un outil de malveillance chez les plus jeunes, un constat qui devrait nous faire réfléchir sur la manière dont nous encadrons ces usages.
- L’affaire démontre que le harcèlement et la diffusion d’images truquées touchent des mineurs, parfois sans que les adultes n’en aient forcément conscience au début.
- Le choix d’un tribunal pour la jeunesse en Espagne traduit la volonté d’adapter la justice à des délits numériques complexes, portés par des adolescents.
- En parallèle des sanctions, le recours à la sensibilisation sur l’égalité et à l’éducation à la responsabilité numérique semble un levier incontournable pour limiter ces dérives.
- Les pouvoirs publics espagnols se positionnent enfin sur un cadre législatif pour encadrer ces pratiques, mais la rapidité d’évolution technologique pose toujours question.
Alors, au fond, faut-il s’étonner que des adolescents, armés d’outils d’intelligence artificielle dernier cri, choisissent de s’en servir à mauvais escient ? Si on ne leur apprend pas mieux, leur créativité débordante risque bien de nous réserver d’autres surprises… En attendant, on reste curieux de voir comment cette affaire va faire bouger les lignes, et si l’Europe viendra un jour à bout de ces questions éthiques que la technologie soulève comme un bon vieux feuilleton sans fin.