NEW YORK – Apple a décidé de suspendre temporairement sa nouvelle fonctionnalité d’intelligence artificielle visant à résumer les notifications d’actualités, après avoir reçu des plaintes de la part d’une organisation de presse et de groupes de défense de la liberté de la presse concernant des titres truffés d’erreurs. Cette décision rare de la part du fabricant de l’iPhone survient suite à des résumés d’actualités fallacieux ou carrément faux générés par la technologie, qui ressemblent à des notifications push classiques.
Jeudi, Apple a déployé une mise à jour logicielle bêta pour les développeurs, désactivant la fonctionnalité d’IA pour les titres d’actualités et de divertissement. La société prévoit de la relancer pour tous les utilisateurs une fois la fonctionnalité améliorée. Lors de cette mise à jour, Apple a annoncé que les résumés générés par son intelligence artificielle, auxquels les utilisateurs doivent s’abonner, mettraient davantage en avant le fait que l’information a été produite par l’IA, signalant ainsi qu’elle peut parfois être inexacte.
Le mois dernier, la BBC avait déjà exprimé ses inquiétudes à Apple concernant cette technologie, incitant la société à abandonner la fonctionnalité après qu’elle ait créé de faux titres affirmant que Luigi Mangione, accusé de meurtre du PDG d’UnitedHealthcare, s’était suicidé. Dans un autre cas, trois articles du New York Times avaient été résumés dans une même notification push, affirmant à tort que le Premier ministre israélien Benjamin Netanyahu avait été arrêté.
Un porte-parole de la BBC avait déclaré à CNN en décembre qu’il était "crucial qu’Apple s’attaque d’urgence à ces problèmes, car l’exactitude de nos nouvelles est essentielle pour maintenir la confiance. Ces résumés IA d’Apple ne reflètent pas – et dans certains cas contredisent complètement – le contenu original de la BBC."
Mercredi, la fonctionnalité alimentée par l’IA a à nouveau mal résumé une notification du Washington Post, affirmant faussement que "Pete Hegseth avait été licencié ; les tarifs de Trump impactent l’inflation ; Pam Bondi et Marco Rubio étaient confirmés." Aucune de ces informations n’était vraie. Geoffrey Fowler, chroniqueur technologique du journal, a qualifié cette situation de "totalement irresponsable", appelant Apple à désactiver les résumés pour les applications d’actualités jusqu’à ce qu’elle améliore son IA.
Les groupes de défense de la liberté de la presse ont également souligné les dangers que ces résumés représentent pour les consommateurs en quête d’informations fiables. Reporters Sans Frontières a qualifié cela de "danger pour le droit du public à des informations fiables sur l’actualité," tandis que le National Union of Journalists, l’un des plus grands syndicats de journalistes au monde, a souligné que "le public ne doit pas être placé dans une position où il doit remettre en question l’exactitude des nouvelles qu’il reçoit." Les deux organisations ont appelé à la suppression des résumés alimentés par l’IA.
Les problèmes d’IA d’Apple ne sont pas une première. De nombreux développeurs ont dû faire face à des cas où la technologie inventait des informations. Les modèles de langage, qui sont à la base des outils d’IA, sont conçus pour répondre aux entrées avec une "réponse qui sonne plausible". Selon Suresh Venkatasubramanian, professeur à l’Université Brown, "il n’y a aucune connaissance de la vérité là-dedans". Deux ans après le lancement de ChatGPT, les hallucinations liées à l’IA continuent d’être aussi répandues que jamais. Une étude de juillet 2024 menée par l’Université Cornell, l’Université de Washington et l’Université de Waterloo a révélé que les principaux modèles d’IA restent peu fiables, compte tenu de leur tendance à inventer des informations.
Points à retenir
- Apple suspend sa fonctionnalité d’IA dédiée à la synthèse de nouvelles en raison d’erreurs fréquentes.
- Des plaintes ont été formulées par la BBC et d’autres organisations sur l’inexactitude des résumés générés.
- Une mise à jour destinée à améliorer l’information transmise par l’IA est prévue, avec une clarification sur la nature de l’IA.
- Les groupes de défense de la liberté de la presse mettent en avant les risques de désinformation liés à cette technologie.
- Des précédents existent où des systèmes d’IA ont également généré des informations inexactes.
Cette situation soulève des questions importantes sur l’avenir de l’IA dans le domaine de l’information. Alors que ces technologies s’intègrent davantage dans notre quotidien, il est crucial de s’interroger sur leur fiabilité et la responsabilité des entreprises qui les développent. La quête d’informations précises et de qualité devra guider les améliorations à venir.
Ah, les joies de l’intelligence artificielle ! Un peu comme mon chat qui pense pouvoir parler… À quand des résumés qui ne racontent pas n’importe quoi ?
Il est essentiel de s’assurer que l’IA ne diffuse pas d’inexactitudes. La confiance dans l’information est primordiale, surtout dans un monde où l’actualité évolue si rapidement.
Sandrine, c’est fascinant de voir comment l’IA peut autant promettre et décevoir ! J’espère qu’Apple saura trouver la juste voie pour améliorer cette technologie.
Apple fait bien de suspendre cette fonctionnalité. L’exactitude des informations est essentielle, surtout dans un monde où la désinformation peut semer la confusion.