GPT-5.6 Sol : Comment elle a surpassé les mathématiciens dans l’optimisation par gradient !

Le 12 juillet, la version phare GPT-5.6 Sol Pro a établi un nouveau record en matière de longueur du parcours de gradient, dépassant les performances humaines après huit heures de réflexion. Cette réalisation a donné lieu à un article de 14 pages, incluant des preuves, une table de constantes et un script de vérification. Le précédent record, évalué à 2.29^n, était méconnu car non publié. L’historique de cette compétition de deux ans entre les individus et les modèles a été relaté par l’expert du domaine, Sébastien Bubeck, qui a annoncé la chute du record deux jours plus tard.

La question soumise se résume ainsi : quelle est la longueur maximale du parcours de gradient à travers une fonction convexe, à l’intérieur d’une sphère unitaire dans un espace de dimension n ? Le gradient de flux est une version continue du gradient de descente, dont se servent les réseaux de neurones. Il tend à descendre le long de la pente, tandis que la convexité indique qu’il n’existe qu’une seule vallée dans le paysage, évitant ainsi les pièges locaux. Les courbes qui décrivent un tel parcours sont dites ‘auto-contractantes’ (self-contracted), car elles n’éloignent jamais leur trajectoire future. La question réside dans la complexité du parcours : quelle est la distance parcourue pour atteindre un objectif situé à un mètre du départ ?

Surprenamment, l’intuition peut s’avérer trompeuse à deux égards. D’une part, la rapidité de convergence du gradient de descente est la même, qu’il opère dans un espace de deux dimensions ou d’un million, ce qui explique son attrait dans le domaine de l’apprentissage automatique. Cependant, les meilleures estimations publiées montrent que cette longueur peut atteindre des niveaux exponentiels, avec une estimation supérieure à n^O(n), une croissance qui dépasse toute fonction exponentielle, et qui a été déterminée par Manselli et Pucci en 1991. En 35 ans, personne n’a réussi à améliorer cette estimation. D’autre part, l’idée que cette longueur soit finie n’est pas acquise : la méthode accélérée de Nesterov, prisée dans les cours d’optimisation, peut aboutir à une trajectoire infinie.

Il y a huit ans, Bubeck, avec Omère Angel, Thomas Merchan et Fiodor Nazarov, avait prouvé que la réponse était exponentielle : la longueur du parcours se situait entre √2^n et 4^n. Ce document, bien rédigé, est resté pendant une décennie dans une archive Dropbox, car les auteurs savaient que le résultat pouvait être perfectionné. Plus tard, Nazarov et Merchan ont réussi à réduire la fourchette à 2^n en bas et 2.29^n en haut, mais sans publication. Bubeck a avoué avoir quelque peu oublié les avancées de ses co-auteurs, son propre entendement de la question étant resté à l’état initial.

Avec l’essor de l’IA, Bubeck a posé la même question à chaque nouveau modèle pendant deux ans, jusqu’à ce que ce soit o3 qui comprenne d’abord la portée de la question, reconnaissant les courbes auto-contractantes. À l’époque, cela paraissait presque extraordinaire. Cependant, les versions GPT-5, 5.2 et 5.4 ont toutes montré des résultats incorrects, bien que convaincants, nécessitant des heures de validation. En février, Bubeck a même montré le problème comme un exemple de ce qu’il ne faut pas demander aux modèles de langage.

Un tournant s’est produit en deux étapes. D’abord, après des itérations complexes et des conseils de Mark Selke, un mathématicien de Harvard et élève de Bubeck, GPT-5.5 a redécouvert l’estimation inférieure de 2^n. Ensuite, la GPT-5.6 Sol, sortie la semaine dernière, a réussi à établir cette estimation lors de sa première tentative en 80 minutes, atteignant une estimation supérieure de 2.31^n lors d’une seconde itération en 88 minutes. L’aspect notable ici est que l’approche ayant abouti à 2.31 avait déjà été discutée par Nazarov sur MathOverflow en 2018, où il avait noté les obstacles à celle-ci. Cela soulève donc la question de la vitesse avec laquelle un modèle peut découvrir cette méthode, voire une meilleure.

Le 10 juillet, Bubeck a publié le résultat de l’IA à 2.31 sur X, surpassant le précédent record humain de 2.29. Il a également suggéré que la progression de l’IA sur cette question prendrait environ six mois, un pronostic qu’il a dû revoir, car le progrès n’a pris que deux jours. Le 12 juillet, Jason Lee, professeur à Princeton et expert en descente de gradient, a proposé une nouvelle approche sur ce même problème, obtenant d’abord 2.28 puis, après huit heures d’analyse, 2.26 accompagné d’un article complet.

Il est intéressant de noter que dans cet article, l’IA a reconnu ses limites, affirmant avoir atteint le maximum de la méthode actuelle et indiquant que pour progresser vers 2^n, une nouvelle approche géométrique est nécessaire. Jason Lee a également partagé sur X qu’il pensait comprendre comment améliorer le résultat à 2.21, voire 2. Restons attentifs à l’issue de ce débat.

Un aspect à considérer est que ce résultat n’a pas encore été soumis à un examen par les pairs, et la vérification de la preuve par une machine est également absente. Actuellement, la validité repose sur la confiance d’un cercle restreint de mathématiciens ayant lu le document. Il est également pertinent de souligner que Bubeck, ancien vice-président de Microsoft pour la recherche en IA, travaille maintenant avec OpenAI, ce qui amène à se questionner sur la portée et l’objectivité de ses observations.

Enfin, d’un point de vue systémique, Ben Recht de Berkeley qualifie de tels événements de « blanchiment de connaissances » : ces modèles ont été formés sur des milliards de mots, incluant des travaux que peu de ceux impliqués dans cette discussion ont explorés, ce qui pourrait mener à présenter des idées oubliées comme des innovations contemporaines, sans citer leurs auteurs. Néanmoins, dans ce contexte, l’absence de publication du record humain implique que les modèles ne pouvaient en avoir connaissance.