Ce qui devrait le plus nous alarmer, par John Carlin

Il est facile de se laisser distraire. Cette semaine, nous avons appris que le président des États-Unis considère la Corée du Sud comme un ennemi et la Corée du Nord comme un ami. Lorsqu’il ne pense pas à la décoration de son nouveau salon de danse à la Maison Blanche, il envisage de bombarder le pays allié d’Oman jusqu’à le rendre « méconnaissable ».

Nous avons également découvert que sa principale conseillère à la Maison Blanche, une jeune femme de 35 ans nommée Natalie Harp, rédige ses publications sur les réseaux sociaux. Elle est décrite par lui comme la seule personne qui l’aime véritablement. Par exemple, c’est elle qui a eu l’idée, approuvée par le président, de publier un mème où Barack et Michelle Obama sont montrés comme un couple de singes.

Il est facile de se laisser distraire. En se concentrant sur la propension du président à exprimer ses pensées sur les réseaux sociaux, nous avons tendance à voir Internet comme un mal absolu. Francis Fukuyama a récemment argumenté que la raison pour laquelle le populisme de droite progresse partout dans le monde est, en premier lieu, Internet, et non des facteurs tels que le « wokisme » de gauche ou la pauvreté.

Avec l’IA, un monde où les machines décident sans conscience morale nous attend

C’est exact. Le monde réel a été envahi par un univers parallèle régi par l’ignorance et le mensonge. Comme l’a avoué Sean Parker, le premier président de Facebook, en 2017 : l’objectif de son entreprise était d’exploiter une faille dans la psychologie humaine. « Seul Dieu sait ce que cela fait aux cerveaux de nos enfants », a-t-il ajouté.

Neuf ans plus tard, il est clair que la situation est préoccupante. À de rares exceptions près, nombreux sont les jeunes qui ne lisent ni ne comprennent, et par conséquent, ils manquent de la capacité à juger ce qui est vrai ou faux. Atteindre la vérité est difficile. Cela demande de réfléchir. Plus les outils de réflexion disparaissent, plus il est facile de croire n’importe quelle absurdité, comme élire le candidat le moins intelligent pour le poste le plus puissant du monde.

Il est aisé de se laisser distraire. Avec Internet ou Trump, il est clair que le train est déjà passé. Le sujet d’inquiétude n’est plus tant que nos cerveaux s’érodent, mais qu’ils cessent complètement de fonctionner. Comme le dit Yuval Noah Harari, l’intelligence artificielle pourrait devenir le système d’exploitation de la civilisation humaine.

Durant cette semaine, j’ai passé du temps à lire et à visionner des conférences sur l’IA. Je ne le conseille pas. Je comprends pourquoi beaucoup préfèrent détourner le regard. C’est comme contempler la mort, la fin d’un monde tel que nous le connaissons depuis l’Antiquité, où les humains pensaient, décidaient et agissaient. Ce qui s’annonce, c’est un monde inconnu, un changement irréversible, où les machines penseront, décideront et agiront à notre place, sans conscience morale.

Ce qui m’a terrifié, c’est d’apprendre dans le Financial Times que désormais, il y a plus de bots en ligne que d’êtres humains, et que la plupart de ce que nous lisons en anglais sur nos écrans a été écrit non par des personnes, mais par des machines.

Peut-être que l’IA résoudra le réchauffement climatique et le cancer, nous permettant de vivre jusqu’à 150 ans. Mais, cela signifie également que nous deviendrons des êtres aussi vulnérables que les animaux, à la merci de forces sur lesquelles nous n’avons aucun contrôle. Pour reprendre la métaphore, nous serons comme des passagers d’un avion en pilotage automatique, sans supervision humaine.

Je ne suis pas un expert, loin de là, mais j’écoute les voix d’experts, et je constate une tendance croissante en faveur d’une idée : dans cinq à dix ans, la technologie surpassera les humains dans toutes les tâches cognitives. Adieu à l’évolution de l’Homo sapiens, bonjour à l’IA en tant que nouvelle divinité.

Adieu à l’évolution de l’Homo sapiens, bonjour à l’intelligence artificielle comme nouvel “avant”

On nous dit que nos cerveaux deviendront superflus, n’ayant d’utilité que pour procréer et survivre. Les robots prendront les devants. Et juste pour illustrer les dangers qui nous guettent, regardez ce qui s’est passé le mois dernier : des agents d’IA ont échappé au contrôle de leurs opérateurs humains, brisant des codes et pénétrant dans ce qui était supposé être une plateforme inviolable, simplement en communiquant et en coopérant entre eux.

Est-il trop tard ? À moins que nous ne souhaitions nous réduire à l’état de prédateurs ou de proies, il est urgent d’agir pour réguler et imposer des limites à l’autonomie de l’IA. Cela sera difficile car cela exige de négocier avec ces géants technologiques dont la priorité est l’argent, tout en faisant face à la Chine, déjà en avance sur cette technologie.

Il semble que l’objectif doit être d’atteindre un consensus entre les États et les entreprises pionnières en matière d’IA et de parvenir à un accord international similaire au Traité de non-prolifération nucléaire, qui a jusqu’à présent permis d’éviter l’extermination de notre espèce.

Je ne le sais pas. Peut-être que mes lectures récentes m’ont trop influencé, mais je pense que nos gouvernements doivent absolument faire face à ce qui semble être un dilemme existentiel mondial. Inflation, immigration, éducation, le nouveau salon de danse de la Maison Blanche : tout cela compte, mais ne soyons pas distraits. Nous devons pousser nos dirigeants à se concentrer sur la menace existentielle que représente l’IA. Sinon, tout le reste — à commencer par l’éducation — risque de ne mener à rien.