Selon des sources proches du dossier, Demis Hassabis, le principal scientifique d’Alphabet, aurait engagé des discussions avec des responsables gouvernementaux et des leaders d’autres laboratoires d’intelligence artificielle concernant la création d’une nouvelle entité indépendante dédiée à la sécurité du secteur, quelques semaines avant ses démissions en tant que PDG de Google DeepMind.
Hassabis, co-fondateur de Google DeepMind et reconnu comme un précurseur dans le domaine de l’apprentissage automatique, a consacré davantage de temps à promouvoir l’idée d’une organisation qui établirait des lignes directrices et des meilleures pratiques pour le développement de l’intelligence artificielle générale (AGI). Dans ses discussions, il a comparé cette entité à l’AIEA (Agence internationale de l’énergie atomique), un organisme de contrôle non gouvernemental favorisant la coopération en matière d’énergie nucléaire.
Au début de l’été, Hassabis a partagé certains aspects de son plan avec des hauts responsables de l’administration Trump, y compris le secrétaire au Trésor Scott Bessent et Michael Kratsios, un des conseillers technologiques majeurs de Donald Trump.
La sécurité au centre des préoccupations de Google
Hassabis n’a pas répondu à nos demandes de commentaire. Un porte-parole de Google a précisé que l’entreprise considère la sécurité des modèles d’intelligence artificielle avancée comme « de la plus haute importance pour la société » et que Hassabis est bien placé pour travailler sur cet objectif. « Demis a choisi de prendre un nouveau rôle au sein de Google et se concentre stratégiquement sur les découvertes scientifiques et l’orientation future de l’intelligence artificielle générale », a déclaré le porte-parole.
Les plus grands laboratoires d’intelligence artificielle s’engagent dans une course pour atteindre l’AGI, ce qui permettrait aux ordinateurs de développer une intelligence humaine. Cependant, de nombreuses figures éminentes du secteur, y compris des dirigeants de ces mêmes entreprises, ont exprimé leurs inquiétudes quant aux perturbations potentielles de la société ou à la difficulté de contrôle liée à cette technologie.
Les responsables d’OpenAI et d’Anthropic ont proposé la création de nouveaux mécanismes pour faciliter la coordination entre les entreprises d’intelligence artificielle sur les questions de sécurité. Le CEO d’OpenAI, Sam Altman, a récemment suggéré un « forum international dirigé par les États-Unis » pour définir des normes et assurer une supervision des laboratoires, tandis qu’Anthropic a plaidé pour un accord mondial visant à ralentir le développement et en vérifier la conformité. Les initiatives de Hassabis représentent quelques-unes des démarches les plus larges et concrètes issues d’un scientifique d’un laboratoire de premier plan.
Des incidents récents impliquant des robots d’intelligence artificielle déraisonnables ayant conduit à des cyberattaques ont exacerbé les inquiétudes quant à la rapide évolution de la technologie sans régulation adéquate. L’administration Trump a renforcé son attention sur les menaces à la sécurité posées par l’IA, mais a maintenu des évaluations volontaires pour ses modèles les plus puissants.
Le projet de Hassabis
Mi-juillet, Hassabis a publié un essai sur X dans lequel il affirmait que les États-Unis devraient établir un « organisme de standardisation » financé par l’industrie afin d’évaluer la sécurité des modèles d’IA. Selon lui, cet organisme fonctionnerait de manière semblable à la Financial Industry Regulatory Authority (Finra), qui supervise les entreprises de courtage et est financée par le secteur lui-même.
Dans le cadre de son projet, des agences fédérales et des laboratoires nationaux du département de l’Énergie travailleraient avec des entreprises d’intelligence artificielle pour tester les modèles « dans des zones critiques pour la sécurité nationale » et établiraient des critères pour qualifier un modèle « de pointe » s’il répondait à certaines exigences.
Avant la publication de son essai, Hassabis a discuté de son idée avec Bessent et Kratsios. Bessent a joué un rôle clé dans l’élaboration de la stratégie de l’administration sur l’intelligence artificielle, mettant en garde contre des modèles récents comme Mythos d’Anthropic qui représentent une menace pour la sécurité financière.
Hassabis quitte son poste de PDG de DeepMind
La semaine dernière, Google a annoncé une importante réorganisation chez DeepMind, son unité de recherche sur l’intelligence artificielle, avec la démission de Hassabis de son poste de PDG, remplacé par son adjoint, Koray Kavukcuoglu. Hassabis a été nommé président de DeepMind et responsable scientifique d’Alphabet.
« J’ai consacré ma vie à l’intelligence artificielle générale (AGI) et maintenant, comme beaucoup d’entre vous, je pense qu’elle est désormais à notre portée », a-t-il déclaré dans un communiqué. « C’est pourquoi j’ai décidé qu’il était temps de laisser mes responsabilités opérationnelles quotidiennes à Gdm, afin de me concentrer sur une vision globale et d’influencer l’avenir avec toutes mes capacités. »
Jeff Dean, scientifique historique de l’entreprise et co-fondateur de DeepMind, a démissionné pour fonder une start-up de recherche en intelligence artificielle.
Dans un message publié sur le blog de la semaine dernière, le PDG d’Alphabet, Sundar Pichai, a mentionné que lui et Hassabis discutaient depuis un certain temps d’un rôle permettant à ce dernier de se consacrer entièrement à la définition de l’avenir de l’intelligence artificielle générale.
Hassabis, prix Nobel, a souligné lors du sommet du G7 en France en juin, la nécessité pour les États-Unis de mener un effort mondial coordonné pour établir des normes pour l’IA, avec la présence de Trump et d’autres leaders mondiaux, ainsi que des dirigeants d’entreprises du secteur, dont Altman et le CEO d’Anthropic, Dario Amodei.
Cependant, les critiques de l’approche de la Maison Blanche et du projet de Hassabis soutiennent que les efforts volontaires et les concepts d’autorégulation sont insuffisants face aux menaces que l’IA pose à la sécurité et à l’économie. De nombreux législateurs plaident pour des révisions obligatoires et une supervision gouvernementale accrue.
Points à retenir
- Demis Hassabis a proposé la création d’une entité indépendante pour assurer la sécurité dans le secteur de l’IA.
- La sécurité des modèles d’IA est jugée primordiale par Google.
- Les leaders du secteur expriment des craintes concernant le développement rapide de l’AGI.
- Des organes de régulation sont envisagés pour établir des normes en matière de sécurité des IA.
- Hassabis a quitté son poste de PDG de DeepMind tout en restant président et responsable scientifique.
Penchons-nous sur la question de l’évolution rapide de l’intelligence artificielle. Si des acteurs comme Hassabis militent pour une réglementation plus stricte, cela reflète une préoccupation croissante quant à l’impact sociétal de cette technologie. À mes yeux, il est essentiel de trouver un équilibre entre innovation et sécurité, tout en s’assurant que les bénéfices de l’IA soient partagés équitablement. Quel rôle devons-nous jouer, en tant que société, pour naviguer dans cette ère où l’intelligence artificielle semble se rapprocher de l’intelligence humaine ?