Le défi d’Einstein : que se passe-t-il quand l’IA tente de redécouvrir la relativité ?

En 1915, Albert Einstein a dévoilé sa théorie générale de la relativité, changeant radicalement notre perception du monde physique. Cette théorie, qui décrit la gravitation comme une déformation de l’espace-temps causée par la masse, constitue un jalon de la physique moderne. Elle sert de base à la cosmologie, aux travaux sur les trous noirs, à la mesure des ondes gravitationnelles et est couramment utilisée pour guider les missions spatiales et les satellites GPS.

La théorie est également devenue un point de référence pour les experts en intelligence artificielle, qui s’interrogent sur la possibilité que leurs créations atteignent un jour un niveau de percée comparable. Lors du Sommet de l’IA en Inde à New Delhi en février dernier, Demis Hassabis, co-fondateur de Google DeepMind, a proposé de former un modèle de langage sur tout ce qui était connu avant une certaine date — il a évoqué l’année 1911 — afin de voir s’il pouvait reproduire la relativité générale. « Ce serait un bon test pour l’intelligence artificielle générale (AGI) », a déclaré Hassabis, en se référant à ce concept souvent flou qui demeure un objectif pour de nombreux acteurs de l’IA.

Un tel test n’a pas besoin de se limiter à la relativité générale. En décembre 2024, Owain Evans, chercheur à l’organisation Truthful AI à Berkeley, en Californie, a présenté une conférence sur les modèles de langage “vintage” ou “historiques”, formés uniquement sur des données historiques jusqu’à une certaine date. Evans a interrogé ce que de tels modèles pourraient redécouvrir.

Cette année, plusieurs équipes ont conçu des modèles vintage, y compris une tentative d’appliquer le test de Hassabis. Cependant, leurs premières approches mettent en lumière davantage les limitations des IA actuelles que leurs forces.

Ido Kaminer, spécialiste en optique quantique au Technion – Institut de technologie d’Israël, co-auteur d’une préimpression intitulée « L’IA peut-elle suivre les traces d’Einstein ? », publiée en juillet, estime qu’une percée similaire à celle de la relativité n’est pas intrinsèquement inaccessible pour l’IA. Toutefois, lui et ses collègues soutiennent qu’il est nécessaire de repenser certains principes sur lesquels reposent les modèles actuels.

Saut créatif

Hassabis a cité l’analogie du test d’Einstein lors d’entretiens médiatiques l’année dernière, mais un autre chercheur de Google DeepMind, Tom Zahavy, l’a décrite en détail dans un document de position publié sur son site en janvier. Intitulé « Les LLM ne peuvent pas sauter », ce document souligne l’incapacité actuelle des LLM à effectuer des sauts de raisonnement similaires à ceux d’Einstein.

Zahavy a rappelé que, comme les philosophes des sciences l’ont souvent reconnu, de telles avancées nécessitent non pas un raisonnement inductif, mais un raisonnement abductif : « un saut créatif qui invente une cause pour un phénomène singulier ». Cela ne correspond pas à la spécialité des modèles d’IA actuels, qui semblent plus adaptés à l’exécution des tâches scientifiques qu’à la réalisation de découvertes transformantes. Ces modèles recherchent des corrélations dans d’immenses ensembles de données, étant formés sur des exemples connus puis orientés par des incitations pour fournir les réponses statistiquement les plus probables pour les cas inconnus.

Cela les rend utiles en tant qu’outils prédictifs, notamment lorsque beaucoup de données sont disponibles. Cependant, les sauts imaginatifs — ou ce que le historien des sciences Thomas Kuhn a appelé des changements de paradigme dans la compréhension — surviennent souvent lorsque les données sont rares, ou proviennent d’anomalies qui ne correspondent pas tout à fait au schéma standard.

Les scientifiques progressent souvent en développant un « modèle du monde », une inférence sur les principes sous-jacents à partir d’un petit nombre de données. Par exemple, les observations minutieuses des mouvements planétaires par l’astronome Johannes Kepler au XVIIe siècle et les relations mathématiques qu’il a déduites ont amené Isaac Newton à élaborer sa loi de la gravitation et ses lois mécaniques du mouvement en réponse aux forces.

Les modèles d’IA peuvent-ils raisonnablement déduire des modèles du monde à partir de données rares ? Actuellement, cela semble difficile, selon Sendhil Mullainathan, informaticien au MIT. Dans un document de conférence publié en juillet, lui et ses collègues ont fourni un modèle de fondement « mécanique orbitale » avec des données synthétiques sur divers systèmes planétaires répondant à la mécanique newtonienne.

Ils ont constaté que le modèle n’a jamais inféré la véritable loi de gravitation mais a proposé une loi différente pour chaque système planétaire, chacune étant incorrecte d’une manière unique.

Cependant, les LLM ont fait des avancées remarquables en mathématiques, suggérant qu’ils peuvent parfois intuer des structures logiques sous-jacentes à leurs données d’entraînement. Une découverte ce mai d’un chatbot AI, conçu par OpenAI, qui a réfuté une conjecture vieille de 80 ans du mathématicien hongrois Paul Erdős a été qualifiée de « véritable avancée conceptuelle » par Mullainathan.