Sommet avec OpenAI : Accord Sombre entre Google DeepMind et l’Avenir

Le contrat social de l’IA : Ce qu’il faut savoir

Récemment, dans un lieu en bord de lac en Suède, 18 représentants d’OpenAI, Google DeepMind, et d’autres organisations se sont réunis lors d’un sommet à huis clos. Leurs discussions avaient pour objectif de parvenir à un consensus sur l’impact prévisible de l’IA avancée sur le « contrat social » qui unit les travailleurs, les gouvernements et les entreprises.

Des figures de proue de l’IA comme Demis Hassabis de DeepMind et Sam Altman d’OpenAI ont récemment exhorté les universitaires et les gouvernements à aborder cette question de manière plus approfondie, afin que le monde se prépare à ce qu’ils considèrent comme un choc économique majeur. Au cours de la semaine, dans des salles de réflexion et lors de séances de sauna commun, ces experts ont esquissé comment ces chocs économiques pourraient se manifester et quelles mesures prendre face à ceux-ci.

Mauvaises nouvelles — Parmi les résultats de cet « AGI social contract summit » figuraient quatre déclarations consensuelles, qui n’avaient pas été publiées auparavant. Elles décrivent un tableau inquiétant pour l’avenir sans interventions significatives des gouvernements et de la société. La première : « L’IA risque d’aggraver les inégalités de richesse et de revenus à l’intérieur des pays, aggravant les conditions économiques de nombreux travailleurs et familles de la classe moyenne. » La deuxième précise : « L’IA augmentera l’inégalité entre les pays ayant accès à l’infrastructure de l’IA et ceux qui n’en disposent pas. » La troisième indique : « Sans intervention, les inégalités générées par l’IA pourraient mener à la domination politique des individus et entreprises riches, compromettant les institutions démocratiques. » Enfin, la quatrième souligne : « L’intrusion des systèmes d’IA et l’érosion de la valeur du travail pourraient entraîner un sentiment d’impuissance chez la majorité des humains, dégradant leur bien-être et leur sens de la vie.»

Démocratisation du travail — Les participants du sommet se sont accordés à dire que le contrat social traditionnel, dans lequel les individus reçoivent sécurité et participation à la société en échange de leur travail, est menacé par l’IA, a déclaré Deric Cheng, l’organisateur de l’événement et directeur de recherche à Windfall Trust. Cheng a expliqué que « nous craignons essentiellement que le travail soit désavantagé par rapport aux entreprises, et que les gouvernements puissent aussi perdre en pouvoir face à celles-ci. » Cela pourrait conduire à une baisse des salaires réels.» Cette perspective soutient que le niveau de vie, même dans les démocraties prospères, dépend non seulement de droits formellement établis mais aussi de la capacité des individus à conditionner leur travail.

Implications à envisager — Sans intervention gouvernementale, les participants ont convenu que l’évolution de l’IA avancée serait susceptible d’entraîner des résultats économiques défavorables pour la population générale. Néanmoins, ils ont identifié plusieurs actions que les gouvernements pourraient envisager pour orienter les choses vers une meilleure direction. Par exemple, la création de nouvelles institutions semblables au FMI, pour veiller à ce que la richesse de l’IA soit répartie dans le monde entier. Des États pourraient également mener des expériences sur des politiques telles qu’un revenu de base ou une réduction du temps de travail pour évaluer l’efficacité des réseaux de sécurité.

Les réactions de Google DeepMind et d’OpenAI aux déclarations consensuelles du sommet n’ont pas été publiées.