Une Utilisation Malveillante de l’IA dans les Écoles
En octobre dernier, une adolescente de 14 ans, Francesca Mani, assistait à son cours d’histoire au lycée lorsqu’elle entendit une rumeur selon laquelle certains garçons possédaient des photos dénudées de camarades féminines. Elle apprit rapidement que son image figurait parmi celles-ci, bien que les photos aient été retouchées par un site ou une application de “nudification”, capable de transformer des photos de personnes habillées en images réalistes de nues. Au cours des 20 derniers mois, près de 30 incidents similaires ont été recensés dans des écoles aux États-Unis, sans oublier d’autres à travers le monde. Nous souhaitons vous alerter : certains des éléments dont vous allez entendre parler, voire voir, sont troublants, mais il est crucial de mettre en lumière ces sites de “nudification”. Ils ne sont pas cachés sur le dark web, mais sont en fait largement accessibles et faciles à utiliser, et peu de mesures semblent avoir été prises pour les contrer.
Francesca Mani n’avait aucune idée de l’existence de ces sites lorsqu’elle découvrit qu’elle et plusieurs autres filles du Westfield High School dans le New Jersey avaient été ciblées. Selon une plainte déposée par l’un des parents d’une autre fille, un garçon de l’école aurait téléchargé des photos d’Instagram sur un site appelé Clothoff. Nous nommons ce site afin de sensibiliser sur ses dangers potentiels.
Il existe plus d’une centaine de ces sites de “nudification”, et il suffit de faire une recherche rapide pour les trouver. Clothoff est l’un des plus populaires, avec plus de 3 millions de visites le mois dernier, selon Graphika, une entreprise d’analyse des réseaux sociaux. Ce site propose désormais de “nudifier” aussi des hommes, bien que les nues féminines soient de loin les plus demandées. “Vous avez quelqu’un à déshabiller ?” interroge le site de Clothoff. Vous pouvez télécharger une photo ou demander une démonstration gratuite qui montre une image d’une femme habillée, puis quelques secondes plus tard, ses vêtements disparaissent. Nous avons flouté cette image, mais les résultats semblent très réalistes.
Francesca n’a jamais vu ce qu’il avait été fait de sa photo, mais d’après la plainte, au moins un “nude” généré par IA a été partagé sur Snapchat et vu par plusieurs élèves de l’école. Ce qui était pire, selon Francesca, c’est qu’elle et les autres filles ont appris qu’elles étaient victimes lorsque leurs noms ont été annoncés au micro de l’école.
Francesca Mani : “Je pense que c’était une violation majeure de notre vie privée pendant que les acteurs malveillants étaient sortis de leur classe en toute discrétion. Quand je suis sortie du bureau du principal, je marchais dans un couloir et j’ai vu des groupes de garçons rire de groupes de filles en larmes. C’est à ce moment-là que j’ai réalisé qu’il fallait que j’arrête de pleurer et que je sois en colère, car c’est inacceptable.”
Dans l’après-midi, le principal de Westfield envoya un e-mail à tous les parents du lycée, leur annonçant que “certains de nos élèves avaient utilisé l’intelligence artificielle pour créer des images pornographiques à partir de photos originales.” Le directeur a également précisé que l’école menait une enquête et qu’à ce stade, ils croyaient que toutes les images créées avaient été supprimées et n’étaient pas diffusées.
Dorota, la mère de Francesca, qui est également enseignante, n’était pas convaincue par la réaction de l’établissement.
Dorota Mani : “Je ne sais pas si ils ont pris des mesures appropriées.”
Bon à savoir
- Les sites de nudification utilisent des algorithmes avancés d’IA pour altérer les images.
- La législation concernant les images inappropriées de mineurs reste floue, exposant les victimes à des préjudices psychologiques significatifs.
- Il existe des initiatives législatives en cours, comme le “Take It Down Act”, visant à lutter contre ce phénomène.