En 2014, Stephen Hawking avertissait la BBC que le développement de machines intelligentes pouvait représenter une menace pour l’humanité. Selon le physicien théorique, l’émergence d’une intelligence artificielle totalement développée pourrait mener à la fin de la race humaine.
Cette mise en garde a été formulée en réponse à une question sur l’actualisation du système de communication qu’il utilisait, une technologie intégrant une forme de base d’IA.
Ce système, développé par Intel et la société britannique Swiftkey, apprenait la façon de penser du scientifique et lui proposait des mots à utiliser lorsqu’il s’exprimait.
Stephen Hawking est décédé le 14 mars 2018 à l’âge de 76 ans, après avoir souffert d’une sclérose latérale amyotrophique (SLA), une maladie neurodégénérative affectant sa capacité à communiquer.
Hawking pensait que l’intelligence artificielle développée jusqu’alors avait été utile, mais il craignait qu’une version plus avancée puisse “décider de se redéfinir elle-même et atteindre un niveau supérieur”.
“Les humains, qui sont des êtres limités par leur lente évolution biologique, ne pourront pas faire le poids face aux machines et seront dépassés”, a-t-il commenté.
Malgré ses inquiétudes quant à une IA plus avancée, Hawking était enthousiaste quant aux améliorations apportées à la technologie qu’il utilisait pour parler et écrire.
Il a choisi de conserver le ton robotique de sa voix, déclarant : “C’est devenu ma signature, et je ne l’aurais échangée pour rien d’autre.” Il ajouta que des enfants ayant besoin d’une voix pour leur ordinateur préféraient souvent une qui ressemblait à la sienne.
Jacob Coxon, un ancien chercheur d’OpenAI et d’Anthropic, a mis en garde sur le fait que la compétition pour développer des systèmes d’intelligence artificielle de plus en plus puissants se fait sans sauvegardes suffisantes.
Suite à sa démission d’Anthropic, il a déclaré que les entreprises rivalisaient pour atteindre une superintelligence capable de s’améliorer elle-même, compromis qui, selon lui, menace notre capacité à contrôler la technologie.
Dans une publication sur X, Coxon a affirmé qu’Anthropic comme OpenAI “ne jouent pas la carte de la responsabilité”, les accusant de “parier avec nos vies”.
Il a alerté que des modèles plus autonomes pourraient acquérir des capacités exceptionnelles pour pirater des systèmes informatiques, accélérer des recherches scientifiques et obtenir des ressources dans le monde réel.
Quatre jours après la démission de Coxon, Dario Amodei a appelé à ralentir le développement des modèles d’intelligence artificielle avancés.
Dans un article, Amodei ne propose pas d’arrêter la recherche, mais de laisser plus de temps aux entreprises et aux gouvernements pour évaluer les risques, renforcer les mécanismes de sécurité et permettre des audits indépendants.
Le 29 septembre, Donald Trump et six dirigeants technologiques ont signé un accord volontaire visant à établir des contrôles de sécurité dans le développement des systèmes d’IA.
Cet accord, présenté par la Maison Blanche comme un pacte sur la “superintelligence”, a été signé par les responsables de Google, Anthropic, Meta, OpenAI, xAI et Nvidia.
Il propose quatre niveaux de supervision : des contrôles internes pendant l’entraînement et le lancement des modèles, des équipes au sein de chaque entreprise pour vérifier ces mécanismes, des évaluations par des auditeurs externes et des comités indépendants pour examiner les rapports.
Les entreprises se sont également engagées à se réunir pour définir des normes et des pratiques de sécurité partagées.
Trump a qualifié cet accord de “moralement contraignant”, bien qu’il n’ait pas force de loi et ne prévoit pas de sanctions pour les entreprises qui ne respectent pas leurs engagements.
Le texte laisse ouverte la possibilité que certaines dispositions soient intégrées dans des lois ou des régulations dans le futur.
Cette initiative survient dans le contexte d’un débat croissant concernant la rapidité d’évolution des modèles d’IA et les risques associés dans des domaines comme la cybersécurité, la bio-sécurité et l’accès non autorisé à des systèmes techniques.
Lors de cette rencontre, Trump a également signé un décret pour que les agences fédérales utilisent le terme “superintelligence” dans leurs communications officielles non juridiques.
Points à retenir
- Stephen Hawking exprimait des préoccupations précoces sur les risques associés à l’intelligence artificielle.
- La compétition dans le secteur de l’IA soulève des questions sur la sécurité et la responsabilité des entreprises.
- L’importance des mécanismes d’audit et de sécurité dans le développement de l’IA est de plus en plus reconnue.
- Le développement rapide de l’IA nécessite une régulation réfléchie pour éviter des conséquences imprévues.
- La signature d’un accord par des leaders du secteur illustre la volonté d’une approche collaborative face aux défis de l’IA.
Il est fascinant de réfléchir à la manière dont des figures comme Stephen Hawking ont jeté un regard critique sur l’évolution technologique, tout en contribuant à celle-ci. La tension entre innovation et précaution semble ici au cœur du débat sur l’intelligence artificielle. Après tout, pouvons-nous véritablement contrôler ce que nous avons créé ? C’est une question qui mérite d’être débattue davantage, tant pour l’avenir de la technologie que pour celui de l’humanité elle-même.