À la fin de l’année 2024, un article dans le magazine « Science » a suscité de vives réactions. Sous le titre « DeepMind de Google développe une IA pour nous empêcher de nous haïr », le nom du philosophe du consensus Jürgen Habermas est exploité dans une campagne de marketing douteuse pour une technologie. Ce qui semblait, de prime abord, être une anecdote de l’histoire technologique, révèle en réalité un symptôme d’une profonde crise de l’espace public démocratique.
La soi-disant « machine Habermas » de DeepMind promettait de saisir les perspectives communes des participants à une discussion grâce à de grands modèles linguistiques, pour ensuite les compiler dans une « déclaration de groupe » à laquelle chacun pourrait consentir. Selon les concepteurs, le système produirait des « résultats meilleurs » qu’un médiateur humain.
Il y a une ironie ici : Google, la société mère de DeepMind, fait partie des entreprises qui ont joué un rôle clé dans la destruction d’un espace public numérique fonctionnel. Ce même groupe se présente maintenant avec une IA censée résoudre le problème de la polarisation sociale, un phénomène en grande partie alimenté par l’IA elle-même. De plus, le nom du philosophe, qui reste une figure importante de la réflexion sur la démocratie, a été utilisé pour ce projet, sans son accord et sans légitimité. Une machine Habermas ne peut tout simplement pas exister.
Quand la perspective personnelle est essentielle
Lorsque le philosophe a été alerté sur l’utilisation de son nom au début de 2025, il a réagi par un courrier exprimant son mécontentement tout en formulant une critique philosophique claire : « Un programme d’IA pour des discours pratiques est, selon moi, impossible, car les participants doivent remplir une condition que seule une perspective personnelle peut satisfaire. »
En effet, dans un dialogue, les intérêts et valeurs de chacun doivent être jugés à la lumière des ceux des autres, ce qui ne peut être assuré par une machine. Une IA ne peut pas adopter une perspective personnelle, n’est pas capable d’évaluer des raisons, des croyances, ou des émotions, et ne peut pas ajuster ses propres attitudes depuis une perspective de participant. Même la représentation d’une personne par un agent IA rencontrerait le même problème fondamental. Habermas souligne que « chaque participant au discours a la lourde tâche de prendre en compte les perspectives d’autrui pour évaluer ses propres intérêts et valeurs. »
Un discours authentique nécessite la participation de tous
« Le discours, affirme Habermas, exige non seulement le retour sincère de chacun, mais aussi des actes de généralisation effectués depuis la première personne. » Une machine, même celle prétendant neutraliser les conflits, ne pourra jamais remplacer la nuance et la profondeur d’échanges humains authentiques.
DeepMind semble, malgré ses intentions, contourner les rôles épistémiques essentiels liés aux individus. Les opinions et valeurs individuelles ne sauraient être confiées à une machine. Il est vital que les participants au discours restent des juges et participants au même titre, sous peine de voir l’authenticité du dialogue s’effondrer.
La dimension morale à préserver dans le dialogue
Habermas a souligné que la communication intersubjective est cruciale pour la norme morale : « La relation réciproque entre moi et toi forme la plus petite unité morale. » Cette unité se fragilise lorsque les interlocuteurs, surtout dans les contextes éducatifs, interagissent principalement avec des IA. Un véritable dialogue suppose une reconnaissance mutuelle de validité, possible exclusivement entre citoyens libres et égaux, et non avec une machine.
La concentration du pouvoir entre les mains de quelques entreprises technologiques a redéfini notre espace public d’une manière sans précédent. Face à cette évolution, l’introduction d’agents IA remplaçant les moteurs de recherche renforce encore plus cette concentration de pouvoir. Habermas lui-même a mis en garde contre cette « nouvelle transformation structurelle de la sphère publique », soulignant nos luttes face aux révolutions technologiques en cours.
Une exploitation mercantile de la pensée
Après la réaction de Habermas, DeepMind a promis de ne plus utiliser son nom. Néanmoins, cela n’a pas empêché l’entreprise d’attribuer des noms de penseurs à ses salles de conférence, transformant ainsi l’aura de ces figures en outil commercial. Le CEO Demis Hassabis décrit son siège comme une « cathédrale du savoir », en honorant davantage l’intelligence artificielle que l’intelligence humaine.
La question essentielle demeure : comment préserver la rationalité communicative lorsque les gens interagissent de plus en plus avec des IA, leur accordant souvent plus de confiance qu’à eux-mêmes ou à leurs semblables ? Le plus grand philosophe de la communication nous a quitté. À nous de trouver notre voie dans ce nouveau désordre mondial, comme il l’a lui-même rappelé.
Au lieu de faire confiance à des machines promettant un consensus, qui en réalité renforcent les pouvoirs de leurs concepteurs, nous devons élaborer une Théorie critique du numérique. C’est ainsi que nous honorerons le grand philosophe, en forgeant un avenir qui surpassera même ses réflexions sur la démocratie et la liberté.
Points à retenir
- L’importance de la perspective personnelle dans le discours démocratique ne peut être remplacée par une IA.
- Les machines ne sont pas capables d’objectiver une situation comme le feraient des participants humains.
- Le besoin d’une communication intersubjective authentique est fondamental pour maintenir les normes morales.
- La concentration de pouvoir dans le secteur technologique pose un risque pour l’autonomie démocratique.
- La nécessité d’une critique numérique est plus pressante que jamais pour éviter une domination technologique.
En tant qu’être pensant, je suis profondément préoccupé par l’avenir de notre communication et de notre démocratie à une époque où les technologies tentent de substituer le dialogue humain par des réponses automatisées. Comment allons-nous garantir que les voix individuelles trouvent toujours leur place dans l’espace public ? C’est là un défi passionnant et nécessaire pour notre société.