Eric Schmidt, milliardaire et co-fondateur de Schmidt Futures, lors de la conférence ai-Pulse au campus technologique Station F à Paris, France, le 17 novembre 2023.
Nathan Laine/Bloomberg via Getty Images
masquer la légende
Nathan Laine/Bloomberg via Getty Images
Eric Schmidt, ancien PDG de Google, se penche sur l’intelligence artificielle – sur la manière dont elle interagit avec les humains et comment elle pourrait redéfinir la démocratie. Ou la remplacer.
Schmidt a coécrit Genesis avec Craig Mundie, ancien cadre de Microsoft, et le regretté Henry Kissinger, décédé en 2023 peu avant la publication du livre.
Selon Schmidt, Kissinger réfléchissait à la nature de la réalité “depuis avant notre naissance” et a consacré ses dernières années à explorer comment la technologie pourrait déformer notre compréhension de la réalité.
Genesis raconte une histoire de l’histoire : celle des conquistadors espagnols qui ont envahi le Mexique actuel en 1519. Les Azteques, au pouvoir, semblent avoir pris ces nouveaux venus pour des dieux. Leur empereur, lors de leur première rencontre, les a écoutés et est ensuite devenu leur otage, permettant ainsi aux conquistadors de s’imposer.
C’est le début troublant d’un chapitre qui s’interroge sur la possibilité que l’IA puisse nous conquérir.
Schmidt a discuté du livre lors de l’émission Morning Edition. Vous pouvez écouter une version plus longue de notre conversation avec le bouton ci-dessus.
Voici six points essentiels de notre discussion :
L’IA sera accessible à presque tous.
Le récent lancement en Chine d’un nouveau modèle de langage peu coûteux, DeepSeek, a surpris l’industrie de l’IA et pose “un problème de prolifération”, explique Schmidt. Presque tout le monde peut profiter des services d’un “grand philosophe, d’un grand polymathe et d’un grand Léonard de Vinci” – mais cela inclut aussi ceux d’entre nous qui “sont vraiment, vraiment malveillants”.
L’IA peut être un outil pour les démagogues.
Ces systèmes peuvent devenir “de grandes machines addictives et de grands manipulateurs”, que des leaders politiques pourraient utiliser pour “promettre tout à tout le monde,” en personnalisant des messages pour chaque individu.
Les gens interagissent avec une technologie qu’ils ne comprennent pas entièrement.
Les co-auteurs ont examiné la manière dont les humains pourraient réagir face à la puissance croissante des ordinateurs. Deux scénarios les préoccupent particulièrement : soit les gens pourraient commencer à vénérer cette nouvelle intelligence et à “la développer en une religion”, soit “ils mèneront une guerre contre elle”.
Les dirigeants technologiques ne saisissent peut-être pas non plus les implications.
“La raison pour laquelle ils ne comprennent pas cela correctement,” indique Schmidt, c’est que “ce sont vraiment des questions sociales et morales. Les entreprises font ce que font les entreprises. Elles essaient de maximiser leurs profits.” Ce qui manque, ajoute-t-il, c’est un consensus social sur ce qui est juste et ce qui est faux.
Les gens pourraient accepter d’être gouvernés par l’IA.
Le livre explore l’idée ancienne du “roi-philosophe”, un souverain fort et absolu, un idéal souvent débattu dans l’histoire, mais rarement atteint. Que se passerait-il si la machine devenait ce roi ?
“L’intelligence artificielle devrait finalement être capable de raisonner mieux que les humains. Alors imaginons que vous preniez un système d’IA et que vous lui donniez une constitution,” affirme Schmidt, ajoutant que cette expérience de pensée se heurte à un problème : qui rédige la constitution ?
“Les sociétés humaines ont des compromis. Nous acceptons certaines erreurs, mais pas d’autres. Si vous écriviez l’ordinateur parfait pour dire aux gens quoi faire, ces derniers se rebelleraient.”
Après avoir mené cette réflexion, Schmidt affirme qu’il préfère la démocratie.
La récente inauguration présidentielle a montré une concentration de pouvoir.
“Dans une certaine mesure, j’étais fier de mon industrie et impressionné par mes amis,” déclare Schmidt au sujet des dirigeants technologiques qui ont partagé la scène d’inauguration avec le président Trump le 20 janvier. “D’un autre côté, j’étais inquiet qu’il y ait une ligne que les affaires ne devraient pas franchir. J’aimerais que notre pays soit dirigé par notre leadership politique.”
Le livre coécrit par Schmidt montre que les entreprises représentées sur scène ont d’énormes implications pour la politique.
Points à retenir
- Le livre Genesis soulève des préoccupations concernant l’impact de l’IA sur notre démocratie et nos valeurs sociales.
- Le parallèle avec l’histoire des conquistadors pose des questions sur la perception de la technologie et le pouvoir.
- Schmidt met en lumière la nécessité d’un débat social autour des implications morales de l’intelligence artificielle.
Il est fascinant de voir comment les avancées technologiques peuvent remettre en question non seulement notre manière de vivre, mais également notre cadre sociétal. L’IA, si elle est manipulée, pourrait devenir un outil aussi bien au service des libertés que des dérives. Dans ce contexte, la question de qui contrôle cette technologie devient primordiale, soulevant des enjeux éthiques et philosophiques qui méritent une attention accrue de la part de tous.
Sandrine, cet article résonne profondément. L’IA, un miroir de nos sociétés, interroge notre humanité. J’espère que le débat autour de ses implications ne sera pas un lointain écho.
L’intelligence artificielle transforme notre société à un rythme effréné. Il est crucial d’explorer ses implications pour garantir que nous restons maîtres de notre destinée.