Quelle confiance accorder à ChatGPT ? Une étude israélienne questionne la fiabilité du chatbot en classe de mathématiques
ChatGPT génère ses réponses en prédisant des séquences de mots apprises durant son entraînement. Cependant, une récente étude menée en Israël soulève des doutes quant à la constance et à la fiabilité de ses performances, notamment dans l’enseignement des mathématiques.
© Wikipédia
La technologie derrière ChatGPT repose sur la prédiction statistique de mots dans une phrase. Autrement dit, l’intelligence artificielle choisit la suite de mots la plus probable basée sur les millions de textes assimilés lors de son apprentissage. Pourtant, cette méthode montre ses limites quand il s’agit d’exactitude et de rigueur, indispensables en mathématiques.
Dans le cadre de cette étude, des chercheurs israéliens spécialisés en pédagogie ont soumis à ChatGPT le célèbre problème mathématique du « doubler le carré », issu de l’Antiquité et utilisé pour illustrer des concepts d’apprentissage. L’objectif était de mesurer la cohérence des réponses fournies par le chatbot.
Les résultats révèlent que ChatGPT peut parfois produire des réponses erronées ou incohérentes. Son incapacité à raisonner véritablement et son approche basée sur les probabilités ne garantissent pas une fiabilité suffisante pour un usage pédagogique en mathématiques, où chaque étape et preuve ont une importance cruciale.
Cette expérience souligne les défis que pose l’intégration des intelligences artificielles dans des environnements éducatifs exigeants. Le prestigieux Jérusalem Post, qui couvre régulièrement les avancées scientifiques avec sérieux, met ainsi en lumière que malgré ses avancées impressionnantes, l’outil reste encore fragile face à certaines tâches nécessitant une rigueur intellectuelle élevée.
Points à retenir
- ChatGPT construit ses réponses en prédisant des chaînes de mots selon un modèle statistique appris, sans véritable compréhension.
- L’étude israélienne s’est focalisée sur un problème mathématique classique, symbole d’un raisonnement logique et précis.
- Les réponses du chatbot ont montré des inconsistances ponctuelles, avec des erreurs parfois surprenantes.
- La fiabilité de ChatGPT dans un cadre éducatif spécifique comme les mathématiques est donc contestée.
- Les intelligences artificielles restent de puissants outils d’aide, mais ne remplacent pas encore la rigueur d’un esprit humain en matière de réflexion profonde.
On pourrait presque dire que ChatGPT, avec ses prédictions plus ou moins bien ajustées, est un peu comme ce camarade de classe qui trouve souvent la bonne réponse… sauf quand il ne la trouve pas du tout. Alors, à quand un mode « prof de mathématiques » certifié à 100 % ? En attendant, on fera preuve d’un soupçon de méfiance et surtout d’esprit critique.