Lorsqu’Altman célèbre enfin la capacité de GPT à éviter les tirets, il célèbre en réalité le fait qu’OpenAI a ajusté la dernière version de GPT-5.1 (probablement grâce à l’apprentissage par renforcement ou au perfectionnement) pour donner plus de poids aux instructions personnalisées dans ses calculs de probabilité.
Il y a une certaine ironie dans cette quête de contrôle : étant donné la nature probabiliste de la question, rien ne garantit que le problème restera résolu. OpenAI met constamment à jour ses modèles en arrière-plan, même au sein d’une même version, en adaptant les réponses en fonction des retours des utilisateurs et des nouvelles sessions d’entraînement. Chaque mise à jour arrive avec des caractéristiques de sortie différentes qui peuvent annuler les ajustements comportementaux précédents, ce que les chercheurs appellent la “taxe d’alignement”.
Ajuster précisément le comportement d’un réseau de neurones n’est pas encore une science exacte. Tous les concepts encodés dans le réseau sont interconnectés par des valeurs appelées poids. Modifier un comportement peut donc affecter d’autres aspects de manière imprévue. Corriger l’usage excessif des tirets aujourd’hui pourrait entraîner, avec la mise à jour de demain (visant à améliorer, par exemple, les capacités de codage), leur retour inattendu. Ce n’est pas que OpenAI souhaite cela, mais c’est la nature même d’une tentative de pilotage d’un système statistique avec des millions d’influences concurrentes.
Cela soulève une question implicite que nous avons abordée précédemment. Si le contrôle de l’utilisation de la ponctuation reste un défi qui peut surgir à tout moment, à quelle distance sommes-nous de l’AGI ? Nous ne pouvons pas le savoir avec certitude, mais il semble de plus en plus probable qu’elle ne découlera pas simplement d’un modèle de langage avancé. En effet, l’AGI, une technologie destinée à reproduire la capacité d’apprentissage général humain, nécessitera probablement une compréhension véritable et une action intentionnelle auto-réflexive, plutôt qu’un simple appariement de modèles statistiques qui s’aligne parfois avec les instructions, si l’on a de la chance.
Enfin, certains utilisateurs peinent encore à maîtriser l’utilisation des tirets en dehors de la fonction “instructions personnalisées”. Lorsqu’un utilisateur a demandé à ChatGPT de ne pas utiliser de tirets dans une conversation, le modèle a mis à jour une mémoire sauvegardée et a répondu à un utilisateur sur X en indiquant : “Compris — je vais m’en tenir strictement aux traits d’union courts dorénavant.”
Points à retenir
- OpenAI ajuste continuellement ses modèles pour affiner leurs réponses basées sur les retours des utilisateurs.
- Le perfectionnement d’un réseau de neurones est complexe, et les modifications d’un comportement peuvent avoir des conséquences inattendues.
- La résolution de problèmes comme l’utilisation de la ponctuation reste délicate, soulignant les limites des modèles de langage actuels.
- Un développement vers l’AGI nécessitera une compréhension plus profonde que celle fournie par le simple traitement de modèles statistiques.
- Les utilisateurs peuvent encore rencontrer des difficultés dans la gestion des fonctions de style de texte, comme les tirets.
En réfléchissant à ces enjeux, il est fascinant de constater à quel point la technologie évolue rapidement tout en restant bridée par des limitations inhérentes. Cela soulève en moi des interrogations sur l’avenir des intelligences artificielles : auront-elles un jour la capacité de réellement comprendre et apprendre comme nous, ou resteront-elles de simples miroirs de nos instructions ? L’exploration de cette question est passionnante et mérite une attention constante.