Un ancien chercheur en sécurité chez OpenAI se dit « plutôt terrifié » par la rapidité des avancées en intelligence artificielle, avertissant que l’industrie prend un « risque très élevé » avec cette technologie.
Steven Adler a exprimé ses inquiétudes concernant les entreprises qui cherchent à développer rapidement l’intelligence artificielle générale (AGI), un terme théorique désignant des systèmes capables de égaler ou de dépasser les capacités humaines dans n’importe quelle tâche intellectuelle.
Adler, qui a quitté OpenAI en novembre, a déclaré, dans une série de publications sur X, avoir vécu une « période très intense » au sein de l’entreprise américaine, dont il regrettera « de nombreux aspects ». Cependant, il a souligné que le développement de la technologie allait si vite qu’il soulevait des doutes sur l’avenir de l’humanité.
« Je suis assez inquiet par le rythme de développement de l’IA ces jours-ci, » a-t-il affirmé. « Lorsque je pense à l’endroit où je vais élever ma future famille, ou à combien économiser pour ma retraite, je ne peux m’empêcher de me demander : l’humanité parviendra-t-elle à ce stade ? »
Certaines personnalités, comme le lauréat du prix Nobel Geoffrey Hinton, craignent que des systèmes d’IA puissants échappent au contrôle humain, avec des conséquences potentiellement catastrophiques. D’autres, comme le scientifique en chef de l’IA chez Meta, Yann LeCun, minimisent la menace existentielle, affirmant que l’IA « pourrait en réalité sauver l’humanité de l’extinction ».
D’après le profil LinkedIn d’Adler, il a dirigé des recherches liées à la sécurité pour des « lancements de produits inédits » et des « systèmes d’IA plus spéculatifs à long terme » durant ses quatre années passées chez OpenAI.
Se référant au développement de l’AGI, objectif central d’OpenAI, Adler a ajouté : « Une course à l’AGI est un pari très risqué avec de grosses conséquences. » Il a souligné qu’aucun laboratoire de recherche n’avait trouvé de solution pour l’alignement de l’IA – le processus qui vise à s’assurer que les systèmes respectent un ensemble de valeurs humaines – et que l’industrie avançait peut-être trop rapidement pour en découvrir une.
« Plus nous accélérons, moins il est probable que quelqu’un en trouve une à temps. »
Les publications d’Adler sont intervenues alors que DeepSeek, basé en Chine et également autour du développement de l’AGI, secouait l’industrie technologique américaine en dévoilant un modèle rivalisant avec la technologie d’OpenAI, malgré des ressources apparemment plus limitées.
Avertissant que le secteur semblait « coincé dans un équilibre vraiment malsain », Adler a souligné la nécessité de « véritables réglementations en matière de sécurité ».
« Même si un laboratoire souhaite vraiment développer l’AGI de manière responsable, d’autres peuvent encore appliquer des raccourcis pour rattraper, ce qui pourrait avoir des conséquences désastreuses. »
Des demandes de commentaires ont été envoyées à Adler et OpenAI.
Points à retenir
- Steven Adler, ancien chercheur en sécurité chez OpenAI, exprime ses préoccupations face à l’accélération du développement de l’IA.
- Il met en avant l’absence de solutions pour garantir que les systèmes d’IA respectent les valeurs humaines.
- Des experts ont des opinions divergentes sur les implications de ces avancées pour l’humanité.
- La nécessité d’établir des régulations de sécurité plus strictes est soulignée dans un contexte de compétition globale jusque-là intense.
En somme, cette réflexion autour des avancées de l’IA interpelle sur les limites éthiques et sécuritaires de cette technologie. Alors que des voix s’élèvent tant pour en minimiser les dangers que pour alerter sur ses risques, il convient de se questionner : jusqu’où l’humanité est-elle prête à aller pour innover, et quelles en seraient les conséquences ?
C’est assez effrayant de voir à quelle vitesse évolue l’IA. Il est crucial de garantir que cela reste en phase avec nos valeurs pour le bien des enfants et de l’humanité.
La rapidité des avancées en IA est fascinante, mais elle soulève des questions éthiques cruciales. Sommes-nous vraiment prêts à affronter les conséquences de nos innovations ?