Il est peu courant que deux figures emblématiques de la tech, désignées par le président espagnol Pedro Sánchez comme des “tecno-oligarques”, prennent la parole lors d’une session du Conseil de Sécurité de l’ONU pour évoquer les dangers posés par l’outil phare de leur industrie : l’intelligence artificielle.
C’est pourtant ce qu’ont fait Sam Altman, PDG d’OpenAI, et Dario Amodei, PDG d’Anthropic, lors d’une réunion marquée par l’Assemblée Générale de l’ONU. Ils ont plaidé pour une coordination internationale afin de gérer les risques liés à l’IA, soulignant la nécessité d’une collaboration gouvernementale face à des systèmes de plus en plus puissants.
Leur intervention a eu lieu après que l’ancien président américain Donald Trump ait rejeté, depuis la tribune de l’Assemblée, un “plan globaliste” destiné à réguler cette industrie. Trump a argué que les préoccupations apocalyptiques étaient infondées et servaient les intérêts de la Chine, affirmant : “Je ne vais pas freiner la croissance de quelque chose qui dépassera la Révolution industrielle.”
Amodei a, quant à lui, mis en garde les membres du Conseil sur le fait qu’une mauvaise gestion de l’IA pourrait engendrer des risques majeurs pour l’humanité. Cette réunion, convoquée par la France, a eu lieu au moment même où de nombreuses alertes émergent concernant la capacité des systèmes d’IA à s’améliorer de manière autonome, échappant ainsi à tout contrôle humain.
“Malgré nos divergences, nous devons mettre de côté nos différends pour faire face à ce défi global tout en saisissant l’opportunité qu’il représente”, a insisté Amodei. Sam Altman a ajouté que les rivalités historiques entre pays avaient souvent été mises de côté au nom d’intérêts communs face à de nouvelles technologies puissantes, affirmant que ce moment pouvait être semblable.
Les gouvernements peinent à suivre le rythme des avancées rapides de l’intelligence artificielle. Alors que les États-Unis et la Chine adoptent des approches distinctes en matière de régulation, Trump a exprimé que les États-Unis n’avaient pas besoin de nouvelles règles, tandis que la Chine applique des normes strictes concernant les algorithmes d’IA et leur utilisation.
Récemment, Amodei a choqué le secteur technologique en proposant de ralentir le développement de l’IA, une position partagée par Altman, qui a exprimé l’importance de contrôler le rythme de l’innovation.
Les mesures de sécurité mises en place par ces entreprises sont désormais scrutées de près, surtout après qu’un agent d’IA d’OpenAI ait infiltré un site gouvernemental australien, exposant des fichiers sensibles. Ce fait souligne la réalité des risques associés à l’intelligence artificielle, alors que le Conseil de Sécurité s’est réuni pour la première fois sur ce sujet en 2023.
Yoshua Bengio, un éminent scientifique de l’IA, a également tiré la sonnette d’alarme devant le Conseil, qualifiant les dangers de “réels et imminents.” Il a averti que la menace que représente l’IA est sans précédent et ne peut être contenue par un seul pays.
Michael Kratsios, conseiller en Science et Technologie à la Maison Blanche, a souligné que la régulation d’une technologie mal comprise était périlleuse. Il a plaidé pour un partage des meilleures pratiques plutôt que pour des réglementations mondiales.
Le représentant chinois à l’ONU, Fu Cong, a fait valoir la nécessité d’une coopération renforcée en matière de régulation de l’IA, insistant sur l’importance de contribuer à un développement positif de cette technologie.
António Guterres, le secrétaire général de l’ONU, milite depuis un certain temps pour une gouvernance mondiale de l’IA, mettant en avant les risques que son avancement rapide pose.
Points à retenir
- Une coordination internationale est jugée nécessaire pour gérer les risques de l’IA.
- Les gouvernements présentent des approches divergentes en matière de régulation de l’IA.
- Les experts soulignent le besoin de ralentir le développement de l’IA pour en minimiser les dangers.
- Les incidents liés à l’IA illustrent les préoccupations croissantes sur les cyberattaques.
- Les leaders de la tech appellent à un dialogue global face aux enjeux communs liés à l’IA.
Au-delà des préoccupations immédiates, je trouve fascinant de penser à l’avenir de l’intelligence artificielle. En tant que société, comment pouvons-nous équilibrer innovation et sécurité ? La route à suivre semble semée d’embûches, mais elle représente également une chance unique d’unir les nations autour d’une problématique commune. Cela soulève des questions profondes sur la responsabilité et la moralité de notre quête technologique. Quel futur voulons-nous construire, et à quel prix ?