Une entrepreneuse australienne affirme avoir perdu 75 % de son chiffre d’affaires après la suspension de ses comptes par Meta, suite à la publication d’une vidéo innocente montrant ses chiens.
Rochelle Marinato, directrice de Pilates World Australia, explique avoir reçu un courriel de Meta – la maison mère de Facebook, Instagram et WhatsApp – après avoir partagé le 28 juin une vidéo montrant trois de ses chiens regardant par la fenêtre sur son compte personnel.
Selon Sky News Australia, la mère de quatre enfants a vu son compte Instagram suspendu, ainsi que celui de son entreprise, sous prétexte d’une violation des règles communautaires relatives à « l’exploitation sexuelle de mineurs, les abus et la nudité ».
« J’ai reçu un mail de Meta m’informant de la suspension de mon compte, précise-t-elle. Il n’y avait pourtant aucun humain dans la vidéo. »
Entrepreneur installée sur la Gold Coast, Rochelle a tenté de contacter Meta à 22 reprises pour faire appel de cette décision, sans succès : l’intelligence artificielle de la plateforme a maintenu la suspension.
Selon elle, les ventes de Pilates World ont chuté de 50 000 dollars australiens (environ 25 000 livres sterling) à cause de la disparition du compte Instagram de la recherche.
Un avocat a adressé une lettre aux bureaux de Meta en Californie et à Sydney, mais aucune réponse n’a été reçue à ce jour.
Face à cette impasse, Rochelle a finalement fait appel à un tiers pour récupérer ses comptes. « Ça a marché, nous avons récupéré nos comptes », raconte-t-elle.
« C’est inquiétant de penser que cela va rester attaché à mon nom et à mon identité numérique. Tout ça à cause d’une erreur d’IA », confie-t-elle.
« Impossible de savoir ce que Meta considérera comme une violation ou non, alors qu’il ne s’agissait que de trois chiens dans la vidéo. Il sera presque impossible d’éviter ce genre de mésaventure à l’avenir. »
Très choquée par l’accusation d’exploitation sexuelle d’enfants, Rochelle confie au Daily Mail Australia : « C’est une accusation horrible et dégoûtante à endosser, surtout quand on est victime d’une erreur. Les gens penseront qu’on a fait quelque chose de mal pour perdre notre compte. »
« C’est effrayant que l’IA ait un tel pouvoir et fasse de telles erreurs. On est vraiment sur une pente glissante. »
Du côté de Meta, un porte-parole a déclaré à Sky News Australia : « Nous travaillons constamment à améliorer l’application de nos règles pour garantir la sécurité de notre communauté. Nous n’avons pas constaté d’augmentation significative des erreurs d’application. »
Points à retenir
- Une simple vidéo de chiens peut provoquer une suspension de compte, avec des conséquences financières majeures.
- L’intelligence artificielle de Meta interprète parfois à contresens, mêlant animaux et violations graves des règles.
- Les recours auprès de Meta restent laborieux, même avec un avocat, laissant les victimes dans le flou.
- Cette histoire soulève des questions sur la pertinence et la fiabilité des systèmes automatisés pour modérer des contenus.
- La réputation d’une entreprise peut être affectée durablement par une décision algorithmique erronée.
- Le poids grandissant des plateformes numériques dans la vie professionnelle oblige à naviguer dans un univers opaque et parfois hostile.
En somme, lorsque l’intelligence artificielle se prend pour le grand justicier de l’Internet, il devient urgent de se demander si elle n’a pas besoin d’un vrai humain pour vérifier avant de couper les comptes. Perso, je me tâte à filmer mes poissons rouges en espérant éviter la prochaine censure. Parce qu’avec une IA qui confond chiens et délits, le futur s’annonce aussi flou qu’une vidéo en basse définition !