Et si le danger majeur de l’intelligence artificielle (IA) n’était pas sa capacité à remplacer des emplois, comme plus d’un Américain sur cinq le redoute, mais plutôt son potentiel à induire un déclin cognitif ?
Des chercheurs de Microsoft et de l’Université Carnegie Mellon ont publié le mois dernier une étude qui prétend être la première à examiner les effets des outils d’IA sur la pensée critique.
Les scientifiques ont constaté que plus les individus exprimaient de confiance dans les capacités de l’IA à accomplir une tâche, moins ils utilisaient leurs propres compétences en pensée critique. Les personnes qui avaient confiance en l’IA confiaient la pensée critique à ChatGPT au lieu de l’exercer elles-mêmes et ainsi renforcer leurs capacités cognitives.
“Mal utilisées, les technologies peuvent entraîner la détérioration des facultés cognitives à préserver,” ont écrit les chercheurs, ajoutant qu'”un paradoxe clé de l’automatisation est que, en mécanisant les tâches routinières et en laissant la gestion des exceptions à l’utilisateur humain, on prive ce dernier d’opportunités régulières pour exercer son jugement et renforcer son ‘muscle’ cognitif, le laissant alors atrophié et non préparé face aux exceptions qui surviennent.”
Pour cette étude, les chercheurs ont interrogé 319 travailleurs de la connaissance, c’est-à-dire des individus traitant des données ou des informations, afin de déterminer leur niveau de confiance dans les capacités de l’IA et la mesure dans laquelle ils faisaient appel à la pensée critique lors de l’utilisation de l’IA pour mener à bien des tâches. La pensée critique se divisait en six catégories : la connaissance (mémorisation des idées), la compréhension (compréhension des idées), l’application (mise en pratique des idées), l’analyse (contraste et relations entre idées), la synthèse (combinaison d’idées) et l’évaluation (jugement des idées).
Ces travailleurs ont utilisé des outils d’IA comme ChatGPT au moins une fois par semaine et ont fourni 936 exemples d’utilisation de l’IA au travail, allant de la recherche de faits à la rédaction de résumés. Leur pensée critique a surtout été sollicitée pour formuler des requêtes claires, affiner les instructions et vérifier les réponses de l’IA avec des sources externes.
Six des sept chercheurs sont associés à Microsoft Research, la filiale de recherche de Microsoft créée en 1991. L’entreprise affiche un intérêt prononcé pour l’IA, ayant investi près de 14 milliards de dollars dans OpenAI, le créateur de ChatGPT, et projetant d’investir 80 milliards de dollars dans des centres de données dédiés à l’IA au cours de l’exercice financier se terminant en juin.
Les chercheurs mettent en garde qu’alors que l’IA peut accroître l’efficacité des milieux de travail, elle pourrait également “réduire l’engagement critique, notamment dans les tâches routinières ou moins risquées, où les utilisateurs se contentent de se fier à l’IA, soulevant des inquiétudes quant à une dépendance à long terme et une diminution de la résolution de problèmes de manière autonome.”
En d’autres termes, l’IA comporte un coût caché : elle pourrait amener les travailleurs à perdre l’habitude des tâches plus routinières.
Points à retenir
- La recherche souligne que la confiance excessive dans l’IA peut nuire à la pensée critique des utilisateurs.
- Les praticiens de l’IA doivent donc s’engager activement dans le raisonnement critique, même lors de tâches répétitives.
- Les investissements significatifs de Microsoft dans l’IA montrent l’importance croissante de ces technologies dans le monde professionnel.
En somme, cet article soulève des questions essentielles sur l’impact de l’IA dans notre quotidien, au-delà de l’aspect purement technologique. Comment pouvons-nous encourager une utilisation réfléchie des outils d’IA afin de préserver nos facultés cognitives ? C’est un débat nécessaire pour non seulement garantir l’efficacité des processus, mais aussi pour préserver notre intelligence humaine dans cette ère numérique.
Sources et liens utiles :
- https://www.socialter.fr/article/chat-gpt-pensee-critique-science
- https://www.entrepreneur.com/business-news/using-ai-like-chatgpt-damages-critical-thinking-study/486946
- https://www.ledevoir.com/opinion/chroniques/823352/chronique-ia-pensee-critique-universites
- https://www.lebigdata.fr/lia-est-en-train-de-detruire-le-sens-critique-de-nos-jeunes-les-chercheurs-alertent
L’IA est fascinante, mais elle peut nous éloigner de notre propre créativité. Profitons-en tout en gardant notre capacité de réflexion aiguisée.
Cet article soulève des questions importantes. Il est essentiel de préserver notre pensée critique même avec l’IA. Équilibrer technologie et compétence humaine est vital pour l’avenir.