Chaque mystère lié à l’IA mérite une explication rationnelle, y compris le dernier concernant le modèle avancé ChatGPT o1 d’OpenAI … [+]
getty
Dans cet article, je m’emploie à dissiper le mystère entourant les réseaux sociaux et les médias traditionnels à propos du modèle IA avancé ChatGPT o1 d’OpenAI, qui passerait momentanément de l’anglais au chinois. Si vous n’avez pas eu vent de ce fait surprenant, des utilisateurs ont mis en ligne des tweets montrant ce phénomène. L’IA, en réponse à une question donnée, alterne entre l’anglais et le chinois dans le mouvement de raisonnement qui mène à sa réponse, avant de revenir rapidement à l’anglais.
S’agit-il d’un canular ? D’un piratage ? Ou l’IA serait-elle en train de perdre pied ? De nombreuses théories et spéculations ont vu le jour.
Examinons la situation de plus près.
Cette analyse de cette avancée IA fait partie de ma couverture continue sur les dernières innovations en matière d’IA, où je m’efforce d’identifier et d’expliquer les diverses complexités qu’elle engendre.
Que se passe-t-il avec o1 ?
Posons d’abord les bases pour éclaircir le mystère en question.
ChatGPT o1 est un modèle de langage génératif très performant. Les avancées intégrées dans o1 sont remarquables. Lors de son utilisation, il est évident que cette IA présente des caractéristiques uniques.
Pour être clair, il est essentiel de préciser qu’aucun modèle actuel d’IA n’est doué de conscience, et nous n’avons pas encore atteint l’intelligence artificielle générale (AGI). Si vous souhaitez explorer où nous en sommes par rapport à l’AGI et l’intelligence artificielle superintelligente (ASI), des analyses sont disponibles à ce sujet. Actuellement, les IA génératives et les modèles de langage sont basés sur des mathématiques et des algorithmes qui excellent dans l’imitation de l’écriture et de la conversation humaines.
Les utilisateurs réguliers d’o1 affirment apprécier ses capacités. Vous entrez une requête, et une réponse vous est donnée. Ce qui est intéressant, c’est que la réponse inclut souvent les étapes suivies par l’IA pour parvenir à cette conclusion, un concept connu sous le nom de “chaîne de pensée” (CoT).
Cela fait sens jusqu’à présent.
Vient maintenant le mystère. Certains utilisateurs ont remarqué que l’o1 change subitement d’anglais à chinois lors de la présentation des étapes de son raisonnement. Cette alternance se produit brièvement avant qu’il ne revienne à l’anglais, comme une mirage, excepté qu’il existe bel et bien des captures d’écran qui en témoignent.
Les spectateurs sont-ils trompés ?
Non, les récits de cet événement sont vérifiables et ne relèvent pas de l’imaginaire.
Des explications exagérées
OpenAI reste plutôt discret à ce sujet et ne nous éclaire pas sur la source de cette bizarrerie. Leur IA étant considérée comme un produit propre, il est difficile d’en explorer les rouages internes. Chacun n’a d’autre choix que de spéculer sur ce qui pourrait se cacher derrière o1.
Face à ce vide, une multitude de suggestions farfelues ont vu le jour.
Certaines des plus extravagantes suggèrent que la Chine aurait pris le contrôle de o1, ou qu’un hacker chinois aurait instillé quelque chose dans le système. Les théories du complot prolifèrent. Les réseaux sociaux semblent nourrir des imaginations débordantes.
Je vais rejeter ces idées extravagantes.
Pourquoi ?
Il est essentiel de noter que le même problème de changement de langue a été observé pour d’autres langues, comme l’allemand, le français, et le portugais, ce qui montre que l’utilisation de la langue chinoise n’est pas l’exception. D’autres langues apparaissent sporadiquement en plus du chinois.
Bien que je me risque à une spéculation, je doute sérieusement qu’un groupe de hackers ou plusieurs pays œuvrent en cachette à l’intérieur de o1. Je crois qu’une explication plus simple existe pour comprendre ces langues qui apparaissent subitement.
Une hypothèse raisonnée
Voici donc ma théorie — une hypothèse éclairée sur ce qui pourrait se passer. Cela ne signifie pas que c’est la vérité, mais je pense que cela a un sens et correspond aux faits rapportés.
Il faut envisager que, lors de l’entraînement initial des IA génératives et des modèles de langage, une grande quantité de données est analysée afin d’effectuer des associations de mots. Tout type d’écrit est passé au crible. Des mécanismes mathématiques complexes tentent d’identifier comment les mots se lient les uns aux autres.
Considérons la recherche de mots associées comme celle du mot “chien”. Sur Internet, ce mot est courant. Si l’on recherche “chien”, nous supposons que des mots tels que “fluffy” ou “quatre pattes” lui sont souvent associés. En réalité, au sein de l’IA, le mot “chien” est mathématiquement relié à ces mots.
Le mot “chien” fait son apparition
Pour mieux saisir cette dynamique, remarquons que “chien” est un mot français un peu comme le mot “dog”. Supposons que nous procédions à une recherche sur Internet pour ce mot. Les résultats incluraient probablement des mots similaires.
Ainsi, “chien” et “dog” pourraient être associés statistiquement à des termes semblables. Leur similarité peut se londe en termes de sens sous-jacent.
Les LLMs englobent d’autres langues
Lors de la phase d’entraînement des IA et des LLMs, la recherche initiale sur Internet cible majoritairement les mots en anglais, mais des fragments d’autres langues sont également intégrés. Cela arrive davantage en raison de la nature aléatoire du contenu rencontré en ligne qu’une stratégie délibérée, mais cela expliquera pourquoi, au fil du temps, des langues autres que l’anglais apparaissent dans les résultats.
Retour au chien
Imaginons qu’une recherche sur “chien” révèle finalement des liens avec d’autres mots. L’IA peut alors conclure que “dog” et “chien” évoquent la même chose, presque comme si elle construisait un « dictionnaire interne » de correspondance entre les langues.
Cependant, comme ce n’est pas son objectif principal, cette correspondance reste incomplète.
Une explication logique
Pour résumer, les modèles d’IA ont tendance à incorporer des mots d’autres langues lors de leur formation. Si ces éléments peuvent potentiellement enrichir une réponse à un prompt utilisateur, l’IA les utilise sans hésitation. Cette capacité d’alterner les langues, bien que peu commune, peut s’expliquer par la manière dont les mots sont associés et intégrés au modèle durant l’entraînement.
En guise de réflexion finale, nous pourrions nous interroger sur les implications d’une telle évolution dans l’utilisation des IA. Dans quelle mesure une communication multilingue pourrait-elle remodeler nos interactions avec ces systèmes ?
Points à retenir
- Cette anomalie de changement de langue dans le modèle d’OpenAI n’est pas rare et n’est pas exclusive au chinois.
- Les modèles d’Intelligence Artificielle parcourent une ample base de données et englobent involontairement plusieurs langues lors de l’entraînement.
- Les réponses générées peuvent inclure de manière sporadique des phrases dans d’autres langues si l’IA les détecte comme utiles pour répondre à des questions.
En définitive, la possibilité pour des IA comme o1 d’intégrer plusieurs langues soulève des questions intéressantes sur leur utilisation future et sur la manière dont cela pourrait transformer la façon dont nous interagissons avec ces technologies.
C’est fascinant de voir comment l’IA peut jongler avec plusieurs langues ! Ça montre vraiment l’évolution des technologies et comment elles pourraient nous aider dans notre quotidien.
Dans un monde où chaque mot pèse, cette capacité de l’IA à passer d’une langue à l’autre rappelle la beauté de la diversité linguistique qui nous unit.