On Thursday, Larry Ellison, co-fondateur d’Oracle, a partagé sa vision d’un avenir de surveillance alimenté par l’IA lors d’une réunion financière de l’entreprise, rapportent nos collègues de Business Insider. Lors d’une séance de questions-réponses avec des investisseurs, Ellison a décrit un monde où les systèmes d’intelligence artificielle surveilleraient en permanence les citoyens grâce à un vaste réseau de caméras et de drones, affirmant que cela garantirait que ni la police ni les citoyens ne commettent d’infractions.
Ellison, qui est brièvement devenu la deuxième personne la plus riche du monde la semaine dernière lorsque sa valeur nette a dépassé celle de Jeff Bezos, a esquissé un scénario dans lequel des modèles d’IA analyseraient des séquences provenant de caméras de sécurité, de caméras corporelles de police, de caméras de sonnette et de caméras embarquées dans les véhicules.
« Les citoyens se comporteront comme il se doit parce que nous enregistrons et rapportons constamment tout ce qui se passe », a déclaré Ellison, décrivant ce qu’il considère comme les avantages d’une surveillance automatisée par l’IA, incluant des alertes automatiques en cas de criminalité. « Nous aurons une supervision, » a-t-il poursuivi. « Chaque policier sera supervisé en permanence, et s’il y a un problème, l’IA le signalera à la personne appropriée. »
Le milliardaire de 80 ans a également prédit que des drones contrôlés par l’IA remplaceraient les véhicules de police lors de poursuites à grande vitesse. « Il suffit de faire suivre la voiture par un drone, » a-t-il expliqué. « C’est très simple à l’ère des drones autonomes. »
Ellison a cofondé Oracle en 1977 et a été PDG jusqu’à sa démission en 2014. Il est actuellement président exécutif et directeur technique de l’entreprise.
Une familiarité inquiétante
Bien qu’Ellison ait tenté de présenter sa prédiction de surveillance publique universelle sous un jour positif, ses remarques soulèvent des questions significatives sur la vie privée, les libertés civiles et le potentiel d’abus dans un monde de surveillance omniprésente par l’IA.
La vision d’Ellison ressemble étrangement à l’univers prémonitoire dépeint dans le roman de George Orwell, 1984. Dans la fiction d’Orwell, le gouvernement totalitaire d’Océania utilise des « téléscreens » omniprésents pour surveiller en permanence les citoyens, créant une société où la vie privée n’existe plus et où la pensée indépendante devient presque impossible.
La célèbre phrase d’Orwell « Big Brother vous regarde » prendrait une nouvelle signification dans le scénario technologique d’Ellison, où les systèmes d’IA, plutôt que des observateurs humains, serviraient d’yeux toujours vigilants de l’autorité. Autrefois considérés comme des tropes de science-fiction, les systèmes automatisés deviennent déjà une réalité : des systèmes de surveillance par caméras de sécurité automatise ont déjà été testés dans le métro de Londres et lors des Jeux Olympiques de 2024.
La Chine utilise des systèmes automatisés (y compris l’IA) pour surveiller ses citoyens depuis des années. En 2022, Reuters a rapporté que des entreprises chinoises avaient développé un logiciel d’IA pour traiter les données collectées sur les résidents à l’aide d’un réseau de caméras de surveillance déployées dans des villes et des zones rurales dans le cadre de la campagne « yeux acérés » de la Chine de 2015 à 2020. Cette technologie « un citoyen, un dossier » organise les données collectées sur les citoyens chinois, conduisant à ce que The Economic Times a qualifié de « voie vers le totalitarisme numérique ».
Un besoin urgent de GPU
La prédiction d’Ellison selon laquelle la surveillance serait alimentée par l’IA dépendra du développement de matériel puissant, mais des pénuries de composants d’accélération de l’IA comme les GPU pourraient freiner ce processus. Lors de la même séance de questions-réponses la semaine dernière, Ellison a raconté un dîner avec Elon Musk et Jensen Huang, PDG de NVIDIA, qu’il a décrit comme « moi et Elon suppliant Jensen pour des GPU », soulignant la forte demande pour ces puces. Ellison a affirmé qu’ils avaient prié Huang, disant : « S’il vous plaît, prenez notre argent… nous avons besoin que vous en preniez plus. »
La surveillance n’est pas la seule application de l’IA qui enthousiasme Ellison. Alors que les grandes entreprises technologiques s’empressent d’incorporer des modèles d’IA dans tous les domaines, qu’ils soient positifs ou négatifs, Oracle n’a pas fait exception, lançant récemment plusieurs initiatives en matière d’IA, comme un partenariat avec SpaceX de Musk pour amener l’IA dans l’agriculture. Le milliardaire a prédit lors de la réunion que, dans les cinq prochaines années, les entreprises investiraient plus de 100 milliards de dollars dans la création et la formation de modèles d’IA, soulignant l’ampleur « astronomique » de la course à l’IA.
Dans un monde en constante évolution technologique, je ne peux m’empêcher de réfléchir à l’avenir et à la manière dont ces avancées pourraient redéfinir notre société. La frontière entre sécurité et vie privée devient de plus en plus floue, et il est essentiel que nous engagions un débat approfondi sur ces questions afin de préserver nos libertés tout en naviguant dans cette nouvelle ère numérique.
