L’intelligence artificielle à l’école : une enseignante alerte sur le risque de confusion entre IA et réalité et insiste sur la nécessité de former les professeurs !

BELLUNO. « Souvent, les enseignants ne réalisent pas que le risque principal est épistémique, et cette méconnaissance nous empêche d’aider les étudiants à comprendre que les applications d’intelligence artificielle doivent être utilisées comme des outils opérationnels, utiles pour la prise de décisions, mais ne doivent pas devenir des substituts de ces décisions ».

Les nuances des relations entre les jeunes et les nouvelles technologies sont variées. Après avoir interviewé une experte sur l’impact des réseaux sociaux sur les relations entre adolescents, Il Dolomiti s’est penché sur le milieu scolaire avec Francesca Noceti, physicienne et communicatrice scientifique, collaboratrice du laboratoire Design of Science de l’Université de Ferrara et enseignante de mathématiques et de sciences dans une école secondaire de Gênes.

Nous lui avons demandé d’évoquer l’IA dans l’éducation et de souligner les avancées à réaliser dans la formation des enseignants. « La formation des étudiants est essentielle, mais il faut d’abord s’occuper des enseignants, qui souvent manquent d’expérience avec ces outils. Malheureusement, ils tendent à rechercher uniquement une formation technique, que l’on ne peut pas considérer comme suffisante. À ce stade, il est vital de réfléchir à la méfiance, c’est-à-dire d’habituer les jeunes à développer leur esprit critique, et les enseignants doivent être formés pour accompagner cette démarche ».

Récemment, Noceti a réalisé un sondage auprès de 21 élèves de 14 ans concernant leur rapport à l’IA. Les questions variaient, de la fréquence d’utilisation d’outils comme ChatGPT, Gemini ou les filtres de TikTok et Snapchat, à la recherche d’informations en ligne et l’utilisation de l’IA à l’école et pendant leurs loisirs. Bien que l’échantillon soit limité, certaines réponses sont révélatrices. Les élèves ont par exemple cité ChatGPT (85,7%) et les filtres sociaux (66,7%) comme les outils les plus utilisés, tandis que Google reste dominant pour la recherche d’informations, sans que l’on sache s’ils se fient à une réponse donnée par l’IA.

Le point le plus intéressant surgit quand on leur demande s’ils ont déjà obtenu des réponses inventées par l’IA et s’ils vérifient la véracité des réponses. Concernant la première question, 50% affirment ne jamais avoir reçu de réponses inexactes, tandis que 45% admettent que cela arrive « parfois ». Pour la vérification des informations, 70% des jeunes confirment qu’ils contrôlent seulement « pour des devoirs importants », tandis que 25% ne le font jamais.

L’IA est-elle devenue un fournisseur de vérité ?

Bien que l’échantillon soit restreint, il offre des éléments de réflexion. D’abord, l’usage de ces outils par les enseignants reste généralement faible, ce qui indique un besoin de formation technique. L’aspect essentiel réside dans le manque de prise de conscience des risques, non pas liés uniquement à un futur dystopique, mais déjà présents, concernant la dilution de contenu et la confusion entre cohérence linguistique — où l’IA excelle — et connaissance réelle. En effet, l’IA génère des textes structurés, mais ne comprend pas ce qu’elle rédige. À la lecture, on pourrait penser que « c’est très bien écrit, donc cela doit être vrai », alors qu’il n’y a aucune corrélation entre forme et episteme, cette connaissance certaine et fondée.

En d’autres termes, si l’IA fournit des réponses plausibles, cela signifie-t-il qu’elles sont pour autant vraies ? Les jeunes ont-ils perdu leur capacité de jugement critique ? Commençons par une prémisse : si nous parvenons à mettre en œuvre la législation actuelle, comme l’AI Act, nous serons sur la bonne voie, car il fournit des directives essentielles en matière de confidentialité et de sécurité. Ensuite, il faut aborder les enjeux sociaux et philosophiques : concrètement, cela implique d’aider les jeunes à comprendre les conséquences de leurs actions lors de leurs interactions avec l’IA.

Comment procéder ?

Il y a quelque temps, j’ai proposé aux élèves une simulation : s’imaginer dans un village de l’âge de pierre, sans connaissances du monde. Ils devaient poser des questions naïves à l’IA, par exemple sur l’existence du chaud et du froid, en sollicitant des réponses comme s’ils étaient dans ce village, et ajuster le prompt si la réponse ne les satisfaisait pas. Cet exercice visait à illustrer le lien entre ces deux aspects et comment l’IA ne fournit pas toujours des réponses univoques. C’est ce qui doit être fait : des activités qui touchent leur conscience.

Le sondage révèle que la majorité des jeunes n’accordent pas leur confiance aux recommandations de l’IA concernant cequ’ils devraient regarder ou acheter, et plus de la moitié s’inquiètent de l’utilisation de leurs données et photos. Cela signifie quoi ?

Cela implique que nous devons les impliquer davantage. Bien que l’usage de l’IA soit répandu et que les jeunes semblent avoir confiance en ses réponses, même eux, natifs du numérique, ne sont pas entièrement à l’aise quant à son utilisation. Utilisons alors leur réflexion pour aborder le problème épistémique, car le risque est qu’ils n’arrivent plus à distinguer le vrai du crédible, rendant leur capacité à prendre des décisions compromise. Au contraire, il est essentiel de les préparer à cette tâche afin qu’ils deviennent des citoyens responsables : si nous ne leur offrons que des connaissances sans les doter de compétences, ils ne sauront jamais se prononcer de manière éclairée. Je pense donc qu’avec leur aide dans la conception de laboratoires de formation, nous pourrons livrer une bataille enrichissante.