L’essor des avis frauduleux : l’IA va-t-elle aggraver la situation ?

Cependant, les outils de génération de texte dotés d’IA, popularisés par ChatGPT d’OpenAI, permettent aux fraudeurs de produire des avis à un rythme et en volume plus élevés, selon les experts de l’industrie technologique.

Cette pratique trompeuse, illégale aux États-Unis, est observée tout au long de l’année, mais elle devient particulièrement problématique pour les consommateurs pendant la saison des achats de fin d’année, lorsque de nombreuses personnes s’appuient sur les avis pour choisir des cadeaux.

Les faux avis se retrouvent dans divers secteurs, allant du commerce en ligne à l’hébergement, en passant par la restauration et les services tels que les réparations à domicile, la santé ou même les cours de piano.

La Transparency Company, une entreprise technologique et groupe de veille qui utilise des logiciels pour détecter les faux avis, a déclaré avoir observé une augmentation significative des avis générés par l’IA depuis le milieu de l’année 2023, leur nombre n’ayant cessé d’augmenter depuis.

Pour un rapport publié ce mois-ci, La Transparency Company a analysé 73 millions d’avis dans trois secteurs : les services à domicile, le juridique et le médical. Près de 14 % des avis s’avéraient vraisemblablement faux, et la société a exprimé une “forte confiance” quant au fait que 2,3 millions étaient partiellement ou entièrement générés par IA.

“C’est un outil très efficace pour les escrocs des avis”, a déclaré Maury Blackman, investisseur et conseiller dans des startups technologiques, qui a examiné le travail de La Transparency Company et dirigera l’organisation à partir du 1er janvier.

En août, la société de logiciels DoubleVerify a annoncé avoir constaté une “augmentation significative” des applications pour smartphones et téléviseurs intelligents, contenant des avis rédigés par l’IA générative. Selon l’entreprise, ces avis étaient souvent utilisés pour tromper les consommateurs dans le but d’installer des applications pouvant détourner leurs appareils ou afficher des publicités de manière incessante.

Le mois suivant, la Federal Trade Commission (FTC) a poursuivi la société derrière un outil d’écriture et de génération de contenu appelé Rytr, l’accusant d’offrir un service susceptible de polluer le marché avec des avis frauduleux.

La FTC, qui a interdit cette année la vente ou l’achat d’avis faux, a précisé que certains abonnés de Rytr avaient utilisé l’outil pour produire des centaines, voire des milliers d’avis pour des entreprises de réparation de portes de garage, des vendeurs de sacs à main et d’autres commerces.

Pour information

Les faux avis ont longtemps été un problème sur de nombreux sites de consommation, où ils sont échangés dans des groupes privés sur les réseaux sociaux.

Max Spero, PDG de l’entreprise de détection d’IA Pangram Labs, a déclaré que le logiciel utilisé par sa société avait sans aucun doute détecté que certains avis générés par IA publiés sur Amazon se retrouvaient en tête des résultats grâce à leur grande précision et à leur apparence réfléchie.

Cependant, déterminer ce qui est faux ou non peut s’avérer difficile. Les tiers extérieurs peuvent rencontrer des limitations, car ils n’ont pas accès à des “signaux de données” capables d’indiquer des schémas d’abus, a précisé Amazon.

Pangram Labs a effectué des détections pour certains sites web de premier plan, que Spero a refusé de nommer en raison d’accords de confidentialité. Il a déclaré avoir évalué Amazon et Yelp indépendamment.

De nombreux commentaires générés par l’IA sur Yelp semblent provenir d’individus essayant de publier suffisamment d’avis pour obtenir un cadeau d'”Elite”, visant à rassurer les utilisateurs sur la fiabilité du contenu, selon Spero.

Ce badge donne accès à des événements exclusifs avec des propriétaires d’entreprises locales. Les fraudeurs souhaitent également que leurs profils sur Yelp aient une apparence plus réaliste, a déclaré Kay Dean, une ancienne enquêtrice criminelle fédérale à la tête du groupe de surveillance Fake Review Watch.

Cependant, il convient de noter que le fait qu’un avis soit généré par l’IA ne signifie pas nécessairement qu’il est faux. Certains consommateurs pourraient utiliser l’IA pour enrichir des retours sincères. D’autres, qui ne maîtrisent pas bien l’anglais, pourraient se tourner vers l’IA pour s’exprimer avec plus de précision dans les avis qu’ils rédigent.

“L’IA peut améliorer la qualité des avis s’ils émanent de bonnes intentions”, a déclaré Sherry He, professeur de marketing à l’Université d’État du Michigan, ayant étudié les faux avis. Elle soutient que les plateformes technologiques devraient se concentrer sur le comportement des acteurs malveillants, ce que les grandes plateformes font déjà, au lieu de décourager les utilisateurs légitimes d’utiliser les outils IA.

De grandes entreprises développent des politiques quant à l’intégration du contenu généré par l’IA dans leurs systèmes pour éliminer les avis faux ou abusifs. Certaines emploient déjà des algorithmes et des équipements de recherche pour repérer et retirer ces avis, tout en offrant aux utilisateurs une certaine flexibilité pour utiliser l’IA.

Des porte-parole d’Amazon et Trustpilot, par exemple, ont affirmé qu’ils permettraient aux clients de publier des avis assistés par l’IA tant qu’ils reflètent leur expérience réelle. Yelp, de son côté, a pris une approche plus prudente, précisant que ses règles exigent des avis entièrement authentiques.

“Avec la récente adoption d’outils d’IA par les consommateurs, Yelp a investi de manière significative dans des méthodes permettant de mieux détecter et atténuer ce type de contenu sur notre plateforme”, a déclaré l’entreprise dans un communiqué.

La Coalition pour des avis de confiance — à laquelle adhèrent Amazon, Trustpilot, le site d’avis sur les emplois Glassdoor et des plateformes de voyage comme Tripadvisor, Expedia et Booking.com, a été créée l’année dernière. Elle a déclaré que même si des fraudeurs peuvent recourir à l’IA à des fins illégitimes, cette technologie représente également “une opportunité de contrer ceux qui cherchent à tromper autrui avec de faux avis.”

“En partageant les meilleures pratiques et en élevant les normes, notamment par le développement de systèmes avancés de détection de l’IA, nous pouvons protéger les consommateurs et maintenir l’intégrité des avis en ligne”, a ajouté le groupe.

Le règlement de la FTC interdisant les faux avis, entré en vigueur en octobre, permet à l’agence d’infliger des amendes aux entreprises et aux particuliers participant à cette pratique. Les entreprises technologiques hébergeant ces avis ne sont pas légalement responsables selon la loi américaine pour le contenu publié par des tiers sur leurs plateformes.

Les entreprises technologiques, y compris Amazon, Yelp et Google, ont poursuivi des courtiers en faux avis qu’elles accusent de vendre de tels contenus sur leurs sites. Celles-ci affirment que leur technologie a bloqué ou supprimé un grand nombre d’avis suspects et de comptes douteux. Cependant, certains experts estiment qu’il y aurait encore des efforts à fournir.

“Leurs efforts à ce jour ne sont pas suffisants”, a déclaré Dean de Fake Review Watch. “Si ces entreprises technologiques sont vraiment engagées à éliminer la fraude aux avis sur leurs plateformes, pourquoi, moi, une personne travaillant sans automatisation, peux-je trouver des centaines, voire des milliers d’avis faux chaque jour ?”

Les consommateurs peuvent tenter d’identifier les faux avis en cherchant certains signes d’alerte, selon les chercheurs. Les avis excessivement enthousiastes ou négatifs sont des indicateurs préoccupants. L’utilisation de jargon répétitif, comme le nom complet d’un produit ou son numéro de modèle, peut également soulever des doutes.

Concernant l’IA, des recherches menées par Balázs Kovács, professeur de comportement organisationnel à Yale, ont montré que les gens peinent à faire la distinction entre les avis générés par l’IA et ceux rédigés par des humains. Certains détecteurs d’IA peuvent également être trompés par des textes plus courts, typiques des avis en ligne, selon l’étude.

Cependant, il existe des “indices d’IA” que les acheteurs devraient garder à l’esprit. Pangram Labs indique que les avis écrits par l’IA sont généralement plus longs, très structurés, et contiennent des phrases et des attributs génériques. De plus, les avis ont souvent tendance à inclure des clichés comme “la première chose qui a attiré mon attention” et “c’était révolutionnaire”.