Meta, TikTok et Snap vont être évalués sur leurs efforts en matière de sécurité pour les adolescents, alors que la préoccupation grandit concernant la protection de la santé mentale des jeunes utilisateurs sur les grandes plateformes de réseaux sociaux.
La Mental Health Coalition, un regroupement d’organisations dédiées à la déstigmatisation des problèmes de santé mentale, a annoncé mardi le lancement de nouveaux standards et d’un système d’évaluation pour les plateformes en ligne. Dans le cadre du programme Safe Online Standards (S.O.S.), un panel indépendant d’experts internationaux évaluera les entreprises selon des critères tels que les règles de sécurité, la conception, la modération et les ressources en matière de santé mentale.
TikTok, Snap et Meta — la société mère de Facebook et Instagram — seront les premières à recevoir cette notation. D’autres entreprises comme Discord, YouTube, Pinterest, Roblox et Twitch ont également accepté de participer, selon un communiqué de la coalition.
« Ces standards offrent au public un moyen concret d’évaluer les protections des plateformes et de tenir les entreprises responsables. Nous espérons voir d’autres entreprises technologiques s’engager dans ces évaluations », a déclaré Antigone Davis, vice-présidente et responsable mondiale de la sécurité chez Meta.
Les dirigeants de TikTok et Snap ont également affirmé leur engagement envers la sécurité en ligne.
Depuis des années, les parents, les législateurs et les groupes de défense critiquent les plateformes en ligne pour leur capacité à garantir la sécurité de milliards d’utilisateurs. Malgré des règles sur les contenus interdits, ces entreprises peinent à modérer les contenus nuisibles liés à l’automutilation, aux troubles alimentaires, aux drogues, etc.
Parallèlement, la technologie joue un rôle de plus en plus important dans nos vies.
La montée des chatbots alimentés par l’intelligence artificielle soulève des inquiétudes quant à la santé mentale, certains adolescents ayant recours à la technologie pour trouver de la compagnie. Les entreprises ont également été confrontées à une avalanche de poursuites judiciaires concernant la sécurité en ligne.
Cette semaine, un procès très médiatisé a débuté à Los Angeles pour déterminer si des entreprises comme Instagram et YouTube pouvaient être tenues responsables de la promotion d’un produit nocif et de l’addiction des utilisateurs à leurs plateformes. TikTok et Snap, la société mère de l’application de messages éphémères Snapchat, ont opté pour un règlement en évitant le procès.
Lors des déclarations d’ouverture, un des avocats représentant une Californienne affirmant être devenue accro à YouTube et Instagram dans son enfance a soutenu que ces produits étaient conçus pour être addictifs.
Les entreprises technologiques rejettent les accusations formulées dans la plainte et affirment que les documents internes ont été déformés pour les dépeindre comme des méchants, alors que d’autres facteurs, comme des traumatismes infantiles, peuvent également être à l’origine des problèmes de santé mentale de certains utilisateurs.
Le PDG de Meta, Mark Zuckerberg, devrait témoigner lors du procès de Los Angeles. Un autre procès a également débuté cette semaine à propos d’une plainte alléguant que Meta n’avait pas protégé les enfants contre l’exploitation sexuelle et avait violé les lois sur la protection des consommateurs du Nouveau-Mexique.
Les nouvelles évaluations ont été annoncées mardi, à l’occasion de la Safer Internet Day, une campagne mondiale qui promeut l’utilisation responsable de la technologie, notamment auprès des jeunes. Des entreprises comme Google ont exposé certaines initiatives de sécurité, incluant des contrôles parentaux permettant de limiter le temps passé à faire défiler les vidéos courtes.
Les évaluations seront codées par couleur : les entreprises qui réussissent bien aux tests obtiendront un badge bleu indiquant qu’elles contribuent à réduire les contenus nuisibles sur leurs plateformes et que leurs règles sont claires. Celles qui ne répondent pas aux exigences recevront une notation rouge, signalant une insuffisance dans le blocage des contenus nuisibles ou l’absence de règles adéquates. D’autres couleurs indiqueront une protection partielle ou des évaluations non encore complètes.
« En établissant un cadre partagé de responsabilité, le S.O.S. nous rapproche d’espaces en ligne qui soutiennent mieux la santé mentale et le bien-être », a déclaré Kenneth Cole, le designer qui a fondé la Mental Health Coalition.
Un site web dédié au S.O.S. précise que les entreprises technologiques n’ont pas influencé l’élaboration des nouveaux standards et ne financent pas le projet. Toutefois, la Mental Health Coalition a collaboré par le passé avec Meta sur d’autres initiatives. Meta et Google sont également mentionnés comme « partenaires créatifs » sur le site web de la coalition.
Localisée à New York, la coalition n’a pas immédiatement répondu à une demande concernant son financement. Les entreprises ont publié leurs règles en ligne et leurs données sur la modération du contenu. Celles qui souhaitent participer au projet remettent volontairement des documents sur leurs politiques, outils et fonctionnalités de produit.
Points à retenir
- Une nouvelle évaluation des plateformes de réseaux sociaux est mise en place pour améliorer la sécurité des adolescents en ligne.
- Des experts indépendants évalueront les entreprises sur toute une gamme de critères relatifs à la sécurité et à la santé mentale.
- Les évaluations incluront un code couleur pour indiquer la qualité de la sécurité en ligne des différents services.
- Les entreprises doivent faire face à des poursuites judiciaires pour leur rôle dans la santé mentale des utilisateurs.
- L’utilisation de l’intelligence artificielle soulève des préoccupations supplémentaires sur la santé mentale des jeunes.
À titre personnel, il est crucial que nous restions vigilants face à l’impact de la technologie sur nos jeunes. Ce système d’évaluation pourrait être un pas dans la bonne direction, mais cela soulève également des questions importantes sur la responsabilité des entreprises du secteur. Comment s’assurer que le bien-être mental des adolescents est réellement une priorité, et pas seulement une réponse à la pression sociétale ? C’est un débat qui mérite toute notre attention.