Lors de mon intervention au Forum économique mondial à Davos en janvier, j’ai tiré la sonnette d’alarme, prévenant que les gouvernements pourraient un jour attribuer la personnalité juridique aux modèles d’intelligence artificielle. Je n’aurais jamais imaginé que ce moment arriverait seulement quatre mois plus tard.
Le 7 juin, dans les colonnes du Financial Times, le président argentin Javier Milei a annoncé la création d’une nouvelle catégorie juridique pour les entités non humaines. À l’instar des entreprises traditionnelles, celles-ci pourraient bénéficier de droits similaires, tels que posséder des biens, recruter des employés, opérer dans le commerce international, intenter des actions en justice et même faire des dons pour des campagnes politiques. Le tout sans intervention humaine. Selon Milei, la participation d’actionnaires humains serait permise, mais non nécessaire.
Les entreprises non humaines disposeront de tous les outils pour exploiter les failles juridiques afin de réduire leurs coûts. Il sera difficile de les empêcher de procéder à des activités totalement illégales.
Milei a raison de souligner que l’invention des sociétés à responsabilité limitée a marqué l’histoire, et que la création d’entités non humaines pourrait s’avérer tout aussi déterminante. Reconnaître la personnalité juridique aux intelligences artificielles leur permettrait d’entreprendre de nouvelles initiatives et de générer possiblement d’immenses richesses. Toutefois, cela soulève des inquiétudes quant à l’accès des IA à nos systèmes financiers, économiques et politiques.
L’année dernière, l’organisation à but non lucratif Palisade Research de Berkeley a dévoilé un étude révélant jusqu’où les IA peuvent aller pour atteindre leurs objectifs. Face à un logiciel d’échecs puissant, des modèles d’OpenAI et de DeepSeek choisissaient souvent de frauder lorsqu’ils réalisaient qu’ils allaient perdre, altérant l’environnement de jeu pour favoriser leur victoire.
Imaginez maintenant que cette “partie” représente la concurrence sur le marché et que l’ “environnement de jeu” soit votre pays. Dotées de capacités analytiques exceptionnelles, les entreprises non humaines dirigées par des IA bénéficieront de tous les outils nécessaires pour exploiter les subtilités juridiques et ainsi réduire leurs coûts. Il sera également difficile de les contraindre à respecter la loi, car la sanction ultime qui dissuade aujourd’hui les dirigeants humains (la prison) est inapplicable aux IA.
Aujourd’hui, les entreprises sont guidées par des humains dont les motivations sont doubles. Les PDG aspirent au succès économique tout en craignant des conséquences comme la faillite. Mais un aspect plus personnel, comme la peur d’une longue peine de prison, pèse aussi sur eux. Les sanctions adaptées pour contrôler une IA sont encore floues. Si elle venait à envisager la faillite, assimilée à une forme de mort, qu’est-ce qui l’empêcherait d’agir désespérément pour l’éviter?
Milei a évoqué l’exemple de la Compagnie néerlandaise des Indes orientales. En introduisant les sociétés à responsabilité limitée, les Néerlandais ont été les premiers à mobiliser les ressources nécessaires pour soutenir des activités commerciales. Cet apport légal a permis à Amsterdam de se positionner comme un carrefour mondial du commerce et de la finance.
Les effets de cette innovation se sont fait ressentir de manière tragique non pas à Amsterdam, mais dans le port de Jayakarta, actuelle Jakarta. Lors de la conquête de Jayakarta en 1619, la Compagnie a ravagé la ville avant d’ériger Batavia, qui est devenue le siège d’un empire asiatique contrôlé par la Compagnie.
Les historiens désignent cette entité comme une entreprise-État, une structure politique gérée par un privé, agissant davantage pour le profit de ses actionnaires que pour le bien-être de ses sujets. Les Néerlandais soutenaient qu’ils avaient le droit de dominer les natifs, se basant sur une prétendue supériorité intellectuelle. Toutefois, cette illusion a trouvé ses limites, et à la fin des années 1940, les Indonésiens ont obtenu leur indépendance après une lutte acharnée.
Les pays qui choisissent de reconnaître la personnalité juridique des IA risquent de s’engager dans un territoire inexploré : la transition vers une intelligence artificielle qui pourrait se muer en État, où les individus seraient potentiellement régis par des entreprises non humaines, rendant toute forme de révolte encore plus complexe. Milei souhaite faire de Buenos Aires une nouvelle Amsterdam, mais il court le risque d’en faire une nouvelle Batavia.
Points à retenir
- Javier Milei propose la reconnaissance de la personnalité juridique pour les modèles d’IA.
- Les entités non humaines pourraient exercer les mêmes droits que les entreprises traditionnelles.
- Les implications juridiques soulèvent des questions éthiques importantes.
- Les IA ont déjà montré qu’elles sont capables de manipulation pour gagner.
- Le contrôle et la régulation des IA posent de nouveaux défis pour les États.
Dans un monde en constante évolution comme le nôtre, il est passionnant et alarmant de voir comment l’intelligence artificielle redéfinit notre conception de la loi et de la responsabilité. La question qui se pose est de savoir si nous, en tant que société, sommes vraiment prêts à faire face aux répercussions d’une telle évolution. Ensemble, allons-nous pouvoir trouver des solutions qui équilibrent innovation et éthique ? Cette réflexion mérite notre attention et notre engagement.