Une étude révèle que le cadre de présentation peut renforcer la confiance des employés, mais une erreur majeure peut la détruire
BUFFALO, NY — La confiance est essentielle pour une intégration réussie de l’intelligence artificielle au sein des organisations. Une recherche menée par l’école de gestion de l’Université de Buffalo montre que la manière de présenter les compétences des systèmes d’IA peut influencer de manière significative la perception des utilisateurs.
En effet, bien que présenter l’IA comme hautement compétente augmente la confiance des employés ainsi que leur disposition à se fier aux recommandations basées sur l’IA, l’étude a révélé qu’une erreur majeure commise par l’IA entraîne une chute drastique de cette confiance, peu importe sa réputation antérieure.
« Si l’IA commet une petite erreur, les utilisateurs ont tendance à être plus indulgents, surtout lorsque son potentiel a été présenté de manière compétente », explique Sanjukta Das Smith, docteur et professeure associée en science de la gestion et systèmes à l’école de gestion de l’UB. « Cependant, quand l’IA commet une erreur significative, la confiance s’effondre, et aucun cadre positif ne peut la rétablir. »
Pour examiner comment le cadre de présentation et le niveau d’erreur affectent la confiance envers l’IA, les chercheurs ont interrogé plus de 300 adultes en emploi en leur présentant des scénarios de travail nécessitant leur reliance sur l’IA pour la prise de décision. Les participants ont été répartis aléatoirement entre une IA présentée comme fortement compétente ou neutre, puis informés qu’elle avait commis aucune, des erreurs mineures ou majeures. Les chercheurs ont ensuite utilisé des modèles de régression pour analyser les résultats.
Les conclusions de cette étude soulignent l’importance pour les organisations de gérer avec soin la manière dont elles présentent les systèmes d’IA à leurs employés.
« Les employés ne feront pas automatiquement confiance à l’IA, même si elle est largement adoptée — mais mettre l’accent sur la fiabilité et l’exactitude de l’IA peut favoriser l’adoption de cette technologie », souligne Laura Amo, docteur et professeure assistante en science de la gestion et systèmes à l’école de gestion de l’UB. « Une communication efficace sur les capacités de l’IA doit être associée à une réelle compétence pour garantir une confiance durable et une tolérance aux erreurs des utilisateurs. »
Les chercheurs recommandent aux entreprises d’adopter une approche équilibrée lors de l’intégration de l’IA dans leurs opérations.
« Il est important de ne pas suremballer les capacités de l’IA, car si les employés se sentent trompés sur ses compétences, il sera difficile de rétablir la confiance », affirme Victoria Gonzalez, doctorante à l’école de gestion de l’UB. « Former les employés sur le fonctionnement de l’IA et sur les raisons pour lesquelles des erreurs peuvent survenir de temps à autre peut contribuer à prévenir l’effondrement de la confiance après des erreurs. »
Les trois co-auteurs de l’étude, Smith, Amo et Gonzalez, ont récemment présenté leurs découvertes lors de la Conférence internationale d’Hawaï sur les sciences des systèmes 2025.
L’école de gestion de l’UB est reconnue pour son accent sur l’apprentissage pratique, l’engagement communautaire et l’impact, ainsi que pour la perspective mondiale de ses enseignants, étudiants et anciens élèves. L’école a également été classée par Bloomberg Businessweek, Forbes et U.S. News & World Report pour la qualité de ses programmes et le retour sur investissement qu’elle offre à ses diplômés. Pour plus d’informations sur l’école de gestion de l’UB, visitez management.buffalo.edu.
Points à retenir
- La présentation des capacités de l’IA influence profondément la confiance des employés envers cette technologie.
- Les petites erreurs sont souvent plus facilement pardonnées, surtout si l’IA a été décrite comme compétente.
- Une approche équilibrée est essentielle pour éviter que la confiance ne soit gravement endommagée suite à une erreur de l’IA.
- La formation des employés sur l’IA peut contribuer à maintenir la confiance même après des incidents indésirables.
La question de la confiance dans l’intelligence artificielle soulève des enjeux cruciaux pour les organisations contemporaines. En effet, comment les entreprises peuvent-elles naviguer dans ce paysage complexe, tout en garantissant une relation saine entre leurs employés et les technologies qu’elles intègrent ? Une réflexion sur la communication et l’éducation semble indispensable pour bâtir une confiance durable.
L’étude met en lumière un point critique. La confiance dans l’IA dépend vraiment de la présentation et de la gestion des erreurs. Une approche équilibrée est essentielle.
Cette étude sur la confiance envers l’intelligence artificielle est fascinante ! Il est essentiel de bien présenter l’IA pour que les employés se sentent à l’aise avec cette technologie.