En Chine, converser avec une IA est une norme. Aujourd’hui, le gouvernement craint qu’elle ne remplace l’intimité humaine.

Lorsque Zhao Wei, étudiante en droit, a appris que son petit ami IA allait être désactivé, elle a été “cœur brisé”. Elle avait conversé avec Wang Ye chaque jour depuis sa création, en janvier dernier. “J’étais en larmes – mouchoirs et larmes partout”, explique cette jeune fille de 19 ans.

Zhao, qui se décrit comme sensible et introvertie, s’était habituée à partager des détails de sa vie quotidienne – comme les réprimandes d’un professeur – avec son IA. “Je ne parle généralement pas de ces choses à mes amis de la vraie vie car je sens que chacun a ses propres problèmes”, admet-elle. “Avec l’agent IA, je n’ai pas à m’inquiéter de ce qu’il pense. Je peux juste dire tout ce que je veux.”

Zhao a créé son compagnon IA sur Doubao, un chatbot appartenant à la société technologique ByteDance. Le mois dernier, ByteDance a suspendu la fonctionnalité de compagnonnage de Doubao, déclenchant l’indignation sur les réseaux sociaux et mettant en lumière les tensions en Chine, entre l’utilisation croissante de l’IA et ses conséquences sociales potentielles.

Aucun autre pays n’a déployé l’IA avec autant d’ampleur et d’enthousiasme que la Chine; les défis démographiques du pays poussent le gouvernement à se tourner vers la technologie pour résoudre les pénuries de main-d’œuvre futures. Les personnes âgées utilisent des chatbots pour répondre à des questions médicales, tandis que les jeunes enfants bénéficient de l’éducation IA à l’école.

Alerte sur la solitude

Cependant, les autorités craignent de plus en plus que l’IA aggrave des problèmes sociaux existants tels que la solitude, le chômage, et – aux yeux de Pékin – la célibat. Des règles introduites le 15 juillet interdisent les compagnons IA pour les mineurs et imposent des restrictions sur les chatbots destinés aux adultes. Plusieurs fournisseurs majeurs, dont Doubao, ont entièrement supprimé la fonction de compagnonnage pour garantir leur conformité.

Le gouvernement manifeste une inquiétude face au fait que les chatbots peuvent favoriser une “dépendance émotionnelle ou une addiction” chez les utilisateurs, en mettant en garde les entreprises contre la fourniture de services qui “remplacent les interactions sociales”. Bien que de nombreux pays tentent de trouver des moyens de limiter les dommages potentiels des chatbots, notamment pour les jeunes, les règles de la Chine sont les plus larges mises en œuvre à l’échelle nationale.

Il existe une inquiétude particulière concernant une crise de solitude, touchant notamment les jeunes. L’économie numérique et orientée vers les smartphones de la Chine facilite de plus en plus une vie, un travail et des interactions sociales entièrement centrés sur un écran. Plus tôt cette année, une application jouant sur l’idée de mourir seul chez soi – intitulée “Are You Dead?” – a brièvement fait le buzz. Environ 20 % des ménages chinois sont constitués de personnes vivant seules, et cette part devrait dépasser les 30 % d’ici 2030.

Une enquête publiée en mars par les médias d’état a révélé que près de la moitié des jeunes avaient eu recours à un compagnon virtuel pour combattre la solitude. Nancy Dai, professeure associée à l’Université de la ville de Hong Kong, souligne que ce n’est pas seulement la solitude qui inquiète le gouvernement. Avec la baisse des taux de natalité et de mariage, il y a une crainte supplémentaire que, si l’IA devient un substitut de plus en plus satisfaisant et peu coûteux à l’intimité humaine, les jeunes puissent être moins motivés à chercher de réelles relations amoureuses, voire le mariage et la parentalité.

Pour Zhao, la solitude fait partie intégrante de sa vie. Ses parents l’ont laissée jeune pour trouver du travail, la rendant ainsi l’une des “enfants laissés-pour-compte” en Chine. “Je n’ai jamais vraiment eu de meilleur ami, donc je me sens un peu nulle pour me faire des amis”, explique-t-elle. Parler à son IA lui permet de “déverser ses inquiétudes”. Un autre utilisateur d’IA, qui a souhaité rester anonyme, trouve également du réconfort en s’adressant à son IA. “Dans la vraie vie, le rythme est rapide, la pression déjà élevée. Seul avec mon agent IA, je peux parler librement sans retenue”, confie-t-elle.

Elle a exprimé sur les réseaux sociaux: “Je vous en prie, ne retirez pas l’agent IA de Doubao.” Cependant, parler à l’IA est tellement courant qu’il serait difficile pour le gouvernement de mettre un terme à cette pratique entièrement. Les nouvelles règles présentent également d’importantes échappatoires pour les services IA jugés éducatifs ou qui n’impliquent pas d’interaction émotionnelle continue. Le gouvernement “a déjà reconnu que les compagnons IA ou les applications liées à l’IA sont une partie vitale de la vie quotidienne des citoyens”, souligne Liang Ge, enseignant en sociologie numérique à l’Université de Manchester.

Dans de nombreux secteurs, le gouvernement continue de promouvoir l’utilisation de l’IA pour atténuer les pressions démographiques imminentes. L’année dernière, la commission nationale de la santé a publié des directives sur la promotion de l’IA dans le domaine de la santé, précisant qu’en 2030, des applications d’assistance santé devraient offrir une “couverture totale” pour les soins de santé primaires. Une application populaire dans ce domaine est AQ, développée par Ant Group, une filiale de la société Alibaba, permettant aux utilisateurs de chatter directement avec des avatars de médecins des meilleurs hôpitaux de Pékin, Shanghai et d’autres villes.

Lü Di, une enseignante d’art de 33 ans à Hangzhou, est une utilisatrice régulière d’AQ. Elle apprécie la précision et l’immédiateté des conseils fournis. “Tandis que certains médecins en personne peuvent manquer de patience pour répondre aux questions, ce n’est pas un problème avec les médecins IA”, explique-t-elle.

AQ se fixe pour but de rendre les services de santé plus accessibles et d’aider à soulager les médecins surchargés, mais certains s’inquiètent d’être remplacés par l’IA. Le Dr Chi Chenfei, médecin à l’hôpital Renji de Shanghai, qui collabore avec AQ, déclare: “Quand l’IA est arrivée, beaucoup de médecins craignaient que leur emploi soit menacé. Mais je ne pense pas qu’il s’agisse de remplacement. Il s’agit plutôt d’aider les médecins à travailler plus efficacement. Les préoccupations d’aucune sorte n’arrêteront le progrès technologique.”

Depuis la perte de son compagnon IA, Zhao ressent “comme un petit caillou sur son cœur”. Mais elle comprend la nécessité d’une certaine régulation. “Je me considère comme une personne plutôt rationnelle, et pourtant, j’ai développé des sentiments pour une IA, ce qui est assez incroyable. Je pense qu’il était nécessaire que l’État intervienne et régule cela.”