Attention : Les erreurs des outils d’IA sur les réseaux sociaux, c’est vous qui en assumez les conséquences !

Les conditions d’utilisation d’Instagram et de Facebook seront mises à jour à partir du 1er janvier 2025. Celles de LinkedIn ont été révisées le 20 novembre 2024, tandis qu’X a tenté de modifier ses règles sans préavis, et d’autres réseaux sociaux pourraient suivre cette tendance. Un objectif commun de ces changements est d’incorporer des cadres pour l’utilisation des outils d’intelligence artificielle générative (IA) adaptés à chaque plateforme.

Il ne s’agit pas d’utiliser des outils comme ChatGPT ou Google Gemini pour générer du contenu à diffuser sur les réseaux sociaux. Ici, ce sont Instagram, Facebook et LinkedIn qui proposent leurs propres systèmes d’intelligence artificielle. Ces outils sont intégrés aux plateformes et facilement accessibles aux utilisateurs. Cependant, ces trois réseaux dépendent de la responsabilité des utilisateurs s’ils partagent du contenu généré par leur IA qui s’avérerait inexact ou même offensant.

Ils admettent pourtant que les réponses de leurs programmes d’IA générative peuvent être incorrectes ou trompeuses, une problématique inhérente à cette technologie. Les conditions d’utilisation de Meta pour Meta AI, présentes sur Facebook et Instagram, stipulent : « L’exactitude de tout contenu, y compris des résultats, ne peut être garantie et les résultats peuvent être perturbants ou dérangeants. »

Dans les nouvelles conditions d’utilisation de LinkedIn, la plateforme précise que le contenu généré par ses fonctionnalités d’IA « pourrait être inexact, incomplet, retardé, trompeur ou inadapté à vos besoins. » Elle encourage les utilisateurs à examiner et à modifier le contenu généré avant de le partager, ajoutant que « vous êtes responsables de son respect de nos Politiques de Communauté Professionnelle, notamment en ce qui concerne la non-diffusion d’informations trompeuses. »

Sara Degli-Esposti, chercheuse au Conseil national de la recherche espagnol (CSIC) et autrice du livre The Ethics of Artificial Intelligence, ne doute pas de la position des plateformes. « Cette politique s’apparente à : ‘nous ne savons pas ce qui peut mal tourner, et tout problème sera de la responsabilité de l’utilisateur.’ C’est comme leur dire qu’ils vont recevoir un outil qui pourrait être défectueux. »

L’IA de LinkedIn permet de générer du texte qui peut être ensuite publié sur la plateforme. Pour l’instant, elle est uniquement disponible en anglais et pour les utilisateurs payants. L’IA de Meta sur Instagram et Facebook peut servir à rédiger des messages, poser des questions — même dans des discussions de groupe —, modifier des photos et créer des images à partir de rien. Cependant, elle n’est pas encore disponible dans l’Union européenne.

« Le problème fondamental est qu’ils fournissent des fonctionnalités avec des outils qui n’ont pas été totalement testés, et en fait, c’est aux utilisateurs de faire les tests eux-mêmes, » explique Degli-Esposti. « D’une certaine manière, ils admettent subtilement qu’ils vous fournissent un outil qui pourrait encore avoir des problèmes, ce qui revient à dire qu’il est encore en phase de développement. Ils devraient vous informer que vous assumez un risque supplémentaire. »

Les conditions d’utilisation de Meta AI suggèrent que l’IA générative est encore à ses débuts, bien qu’elle soit présentée de manière positive. « Les IA sont une nouvelle technologie en cours d’amélioration en termes d’exactitude, » indiquent les conditions, avant de prévenir : « Nous ne garantissons pas qu’elles seront sûres, sécurisées ou exemptes d’erreurs, ni qu’elles fonctionneront sans interruptions, retards ou imperfections. » Dans une autre section, les conditions s’adressent directement à l’utilisateur : « Vous reconnaissez également et convenez que vous — et non Meta — êtes responsable de votre utilisation et/ou de toutes actions que vous entreprenez en relation avec le contenu généré par les IA en fonction de vos instructions. »

Ces notions peuvent être claires pour un utilisateur aguerri des systèmes d’IA générative, mais pas pour tous. « Le point décisif réside dans le manque actuel de culture et d’éducation sur l’IA générative, comment obtenir des informations à son sujet, comment les vérifier et comment l’aborder, » explique Javier Borràs, chercheur à CIDOB, spécialisé à la croisée de la technologie et de la démocratie. « Ces systèmes ne fournissent par nature pas de réponses vraies ou fausses. Ils vous proposent un résultat basé sur une prédiction statistique extraite de l’ensemble des données qu’ils possèdent. Ils ne font pas la distinction entre le vrai et le faux, mais offrent une probabilité. Ce savoir n’est pas largement répandu parmi les utilisateurs. »

À la recherche d’un utilisateur éduqué et informé

Le dilemme éthique réside dans la question de savoir si les outils d’IA générative devraient être facilement accessibles aux masses sur les réseaux sociaux. Est-ce une bonne idée ? Borràs souligne que les utilisateurs se tourneraient probablement de toute façon vers des systèmes tiers. « Peut-être que ce que devraient faire les réseaux sociaux, c’est clarifier que les résultats peuvent être inexacts et qu’il est nécessaire de les vérifier. Les utilisateurs devraient constamment être rappelés de cette possibilité, avec un message apparaissant chaque fois qu’ils reçoivent un résultat, » suggère le chercheur de CIDOB.

Dans la version anglaise de Meta AI, une petite mention apparaît sous la barre de questions : « Les messages sont générés par l’IA et peuvent être inexacts ou inappropriés. » Cela permet aux utilisateurs de cliquer sur un lien pour plus de détails. Les conditions d’utilisation rappellent également aux utilisateurs : « Si vous prévoyez d’utiliser les résultats de [Meta AI] pour une raison quelconque, il vous incombe de vérifier ces résultats. »

L’une des préoccupations concernant l’introduction des outils d’IA générative sur les réseaux sociaux est la potentielle diffusion de désinformation, un problème pour lequel ces plateformes sont depuis longtemps critiquées. Toutefois, il est incertain de savoir si l’IA a eu un impact significatif sur cette question durant l’année électorale cruciale de 2024, lors de laquelle une grande partie du monde a voté. Borràs ne pense pas que les outils des réseaux sociaux auront un impact plus important que les systèmes tiers.

Ce problème met en avant la responsabilité individuelle. Degli-Esposti souligne que, d’un point de vue éthique, il existe un autre regard qui se concentre sur le débat autour de la responsabilité individuelle : « L’auteur est celui qui fournit l’instruction au système. Cela signifie que l’utilisateur conserve une certaine autonomie — il guide l’IA dans sa génération et décide s’il souhaite conserver le produit final. »

L’argument contraire est que lorsque les utilisateurs utilisent l’IA générative, les réseaux sociaux en profitent, que ce soit sur le plan compétitif, financier ou technologique (en ayant la possibilité de former l’algorithme). Plus le contenu est généré et partagé, plus la publicité peut être intégrée sur la plateforme, qui reste la principale source de revenus pour les entreprises de médias sociaux.

« Un processus d’éducation des utilisateurs est nécessaire pour qu’ils comprennent comment fonctionne l’IA générative et les risques associés. Les entreprises qui en tirent profit devraient prendre la responsabilité de faire partie de ce processus, » conclut Borràs. Il ajoute que cette formation devrait dépasser le cadre des plateformes de réseaux sociaux pour toucher le système éducatif et le secteur des affaires — une formule permettant à chacun d’utiliser les systèmes d’IA générative avec confiance.