Nous vivons une période de transformation technologique où l’intelligence artificielle se positionne en tant qu’actrice principale. De nombreuses personnalités et experts reposent une grande partie de leurs tâches quotidiennes sur des outils algorithmiques, séduits par la promesse d’un gain de temps et d’une précision qui justifie de déléguer certaines responsabilités.
Cependant, cette tendance suscite des inquiétudes, comme le souligne une étude du MIT qui met en garde contre la diminution des capacités cognitives pouvant découler de l’utilisation de ces systèmes dès le plus jeune âge. À cela s’ajoutent les fameuses « hallucinations » de l’IA et le fait que même ceux qui sont censés vérifier son travail ne le font pas, rendant la situation d’autant plus préoccupante pour les jeunes.
Un exemple concret a été observé aux États-Unis, notamment dans le Kentucky, où un groupe de parents a découvert que, suite à leur premier jour de classe, les élèves sont rentrés chez eux avec des cahiers remplis d’erreurs graves et d’hallucinations générées par l’intelligence artificielle. Ce qui est le plus alarmant, c’est que personne dans l’équipe éducative n’a relu ces matériaux, laissant les familles seules face à ce constat.
Les erreurs révélatrices des matériaux générés par l’IA
Les élèves de l’école secondaire Farnsley, comme l’a rapporté la station locale WDRB, ont été témoins de cette situation. Il ne s’agissait pas de simples erreurs grammaticales, mais d’erreurs flagrantes dans le matériel scolaire. Par exemple, un plan des États-Unis incluait des états mal étiquetés ou inventés : Kentucky apparaissant comme « Venenky », Texas comme « Taxas », ou encore Dakota du Nord comme « North Dahota ».
La géographie n’était pas le seul point faible du modèle utilisé pour rédiger ces documents. Par exemple, La Havane, capitale de Cuba, était incorrectement située sur la péninsule du Yucatán, au Mexique, à plus de 700 kilomètres de sa vraie position.
Les erreurs ne se limitaient pas à la géographie. Dans le domaine des sciences, la masse atomique du magnésium était indiquée à un chiffre absurde de -3,08, et Mars, le projet d’Elon Musk, avait été rebaptisé en « Marc ». De plus, en révisant certaines théories, on pouvait trouver des phrases incohérentes et dénuées de sens, ce qui prouve que l’ensemble de la production était entaché par les erreurs de l’algorithme.
Le risque éducatif de négliger la révision humaine
Face à l’indignation des familles, le district scolaire a dû intervenir. La solution apportée a été plutôt simple : il a été conseillé aux enseignants de retirer 17 pages de matériel généré par l’IA avant de le redistribuer aux élèves, sans aucune relecture ni correction du contenu. Cela soulève des questions sur la qualité de l’enseignement dispensé.
Dans une phase précoce de l’éducation, le matériel utilisé pour l’apprentissage est crucial. Ce cas du Kentucky met en évidence la vulnérabilité de l’éducation et rappelle l’importance de ne pas faire confiance aveuglément à ces assistants intelligents. Supposer qu’ils ne commettent aucune erreur et leur confier une entière fiabilité peut entraîner une dégradation des capacités cognitives plus rapide que prévu.
Points à retenir
- L’IA peut générer des erreurs graves dans le matériel éducatif.
- Une vérification humaine est essentielle avant l’utilisation de matériel généré par l’IA.
- Les élèves d’aujourd’hui sont exposés à des contenus potentiellement erronés dès le début de leur formation.
- Les systèmes algorithmiques ne remplacent pas l’esprit critique nécessaire à l’éducation.
- La confiance aveugle dans la technologie peut avoir des impacts néfastes sur l’apprentissage.
Nous sommes à un tournant décisif dans l’intégration de l’intelligence artificielle dans nos vies. Personnellement, je m’interroge sur les implications à long terme de cette tendance. Comment garantir que nos jeunes générations ne perdent pas cet esprit critique si précieux face à des outils qui, bien qu’utiles, ne devraient pas remplacer l’humain ? La recherche d’un équilibre entre l’utilisation de la technologie et l’apprentissage traditionnel pourrait bien être la clé d’une éducation durable et efficace.