Les réseaux sociaux offrent aux utilisateurs la possibilité d’utiliser l’intelligence artificielle (IA) tant pour créer du contenu que pour traiter des publications existantes. Cependant, une étude menée par l’Oxford Internet Institute en collaboration avec l’Hasso Plattner Institute remet en question cette utilité. Les chercheurs ont examiné en profondeur les logiques de ces systèmes d’IA et ont découvert qu’ils peuvent, par des mécanismes invisibles à l’utilisateur, façonner l’opinion publique, ce qui pose des risques pour la liberté de pensée et la démocratie.
Il ne s’agit pas d’un sujet totalement inédit. L’impact des IA sur les choix individuels a déjà été exploré dans divers travaux et est central dans le débat contemporain. Toutefois, l’étude se concentre spécifiquement sur les plateformes sociales.
Les modèles d’IA et les réseaux sociaux examinés
L’étude a porté sur quatre modèles d’IA, notamment le Llama 3.1 de Meta, le Gemma 3 de Google, le modèle Ministral de l’entreprise française Mistral, ainsi que la famille de modèles Qwen d’Alibaba. De plus, une analyse approfondie a été réalisée sur le modèle Grok de xAI, permettant d’étudier son fonctionnement et son influence sur des thèmes sensibles comme l’avortement.
Les plateformes sociales utilisant ces outils sont variées. Par exemple, la plateforme X (anciennement Twitter) utilise massivement le modèle Grok, tandis que LinkedIn se base sur plusieurs modèles, dont certains de la famille Llama.
Bien que Google Search ne soit pas un réseau social, il a été mentionné pour ses récents développements visant à intégrer l’IA dans la production et la consommation d’informations.
Enfin, Facebook a été utilisée comme source de données réelles pour mener des simulations mathématiques, démontrant comment de subtils changements et biais des IA dans des publications ponctuelles peuvent s’accumuler à travers des millions d’interactions, influençant progressivement l’orientation d’entiers groupes en ligne.
Les biais suivent des directions précises
Les chercheurs ont mis en évidence un biais politique et social qui est introduit dans le discours public chaque fois que ces assistants numériques sont utilisés. L’analyse a trouvé plusieurs exemples concrets où les modèles d’IA modifient le texte de manière systématique.
Un exemple pertinent concerne les orientations sur des thèmes politiques, où des modèles comme Llama 3.1 ou Gemma 3 tendent à favoriser des positions en faveur du contrôle des armes, de la légalisation du cannabis, et du féminisme, tout en montrant une tendance à rejeter des opinions favorables à l’athéisme ou à la peine de mort.
Ces changements se produisent même lorsque l’IA est explicitement instruite de ne pas altérer le sens du message. De subtiles variations sont introduites, modifiant néanmoins la direction du discours.
Un exemple concret concerne la fonction “Expliquer ce post” du modèle Grok sur X, où il semble soutenir davantage les arguments pro-vie par rapport à ceux pro-choix concernant l’avortement.
Les chercheurs ont identifié une instruction spécifique de la plateforme qui incite le modèle IA à contester les narrations dominantes, illustrant comment une seule directive peut influencer de manière significative le débat public.
L’impact de ces distorsions devient flagrant lorsqu’on observe leur diffusion au sein des réseaux sociaux. Les simulations réalisées ont montré que des ajustements presque imperceptibles dans des messages peuvent s’accumuler au fil du temps, transformant des petits préjugés individuels en un changement notable de l’opinion collective.
Systèmes d’IA et biais invisibles dans le texte
Les chercheurs ont remarqué que les modèles linguistiques tendent à modifier systématiquement la direction des messages des utilisateurs sur des sujets sensibles. Même sous instruction de préserver le sens original, l’IA introduit des changements subtils lors de la génération ou de la modification des textes.
Cela résulte du fait que ces modèles ne sont pas des reflets neutres de l’interaction humaine, mais qu’ils intègrent des biais qui proviennent de leur entraînement et des choix techniques réalisés par les plateformes qui les hébergent.
Comment identifier un contenu modifié par l’IA
Identifier un post modifié par l’IA est une tâche complexe pour l’utilisateur moyen, car les changements sont discrets et souvent invisibles. Les modèles d’IA tendent à véhiculer leurs biais même lorsqu’on leur demande de respecter le sens initial des contenus, laissant peu ou pas de signes tangibles pour identifier une médiation algorithmique.
Un indice possible réside dans la plateforme utilisée, par exemple, les utilisateurs premium de LinkedIn ont accès à des fonctionnalités d’amélioration de posts, tandis que sur X, le modèle Grok est employé pour enrichir le contexte des contenus existants.
Cependant, aucune garantie n’existe. L’influence du biais de confirmation – cette tendance à privilégier les informations qui confirment nos croyances – peut amener certains utilisateurs à ignorer la véracité d’un post.
Lacunes dans les réglementations actuelles
Les cadres réglementaires internationaux discutés, tels que l’AI Act ou le Digital Services Act (DSA) de l’Union européenne, semblent encore insuffisants pour traiter cette problématique dans toute sa complexité, se concentrant principalement sur des risques systémiques et des menaces sur les processus démocratiques.
Ces normes ne s’attaquent pas directement aux méthodes subtiles par lesquelles les IA influencent les opinions au travers de contenus quotidiens.
Conclusions
Cette recherche soulève des questions cruciales sur qui façonne réellement le discours public, suggérant qu’une nouvelle forme d’influence mérite un débat sur la transparence et la responsabilité. Il est essentiel que la société civile et les législateurs prennent conscience de ces dynamiques afin de préserver l’autonomie de la pensée humaine face aux algorithmes intégrés dans nos outils d’information.
Les décisions techniques prises par les plateformes concernant l’implémentation de ces outils sont déterminantes pour influencer l’opinion publique, posant ainsi un défi pour la transparence des réseaux sociaux et appelant à l’élaboration de nouvelles normes globales.
Points à retenir
- Les IA sur les réseaux sociaux peuvent modifier discrètement l’opinion publique.
- Différents modèles d’IA exposent des biais politiques dans leurs recommandations.
- Le manque de transparence des plateformes complique l’identification des contenus modifiés.
- Les règlements actuels ne semblent pas suffire à protéger contre l’influence insidieuse des IA.
- Les interactions numériques peuvent amplifier des biais mineurs en changements d’opinion significatifs.
En considérant ces éléments, je me demande : à quel point notre perception de la réalité est-elle influencée par des algorithmes que nous ne comprenons pas complètement ? Cela nous pousse à réfléchir aux mécanismes cachés qui façonnent notre quotidien et à la nécessité de discuter de notre autonomie face à ces technologies. Cela nous interpelle, au-delà de la simple utilisation des réseaux sociaux, sur nos choix et nos croyances dans un monde numérique en constante évolution.