Fable : L’App de Livres Réagit Après des Messages Offensifs de l’A.I.

Fable, une application populaire pour discuter et suivre ses lectures, revoit la manière dont elle génère des résumés personnalisés après des plaintes concernant un langage offensant utilisé par un de ses algorithmes d’intelligence artificielle.

Un des résumés a suggéré à un lecteur de récits noirs de ne pas oublier de lire des auteurs blancs. Chris Gallello, responsable produit chez Fable, a abordé cette problématique sur Instagram, déclarant que l’entreprise avait reçu des critiques sur un langage "fortement bigot et raciste", ce qui les a choqués. Bien qu’il n’ait pas donné d’exemples précis, cela faisait référence à un résumé d’un lecteur, Tiana Trammell, qui montrait des choix de livres et ajoutait : "Votre parcours plonge profondément dans le cœur des récits noirs, laissant les histoires mainstream à bout de souffle. N’oubliez pas de faire surface pour lire occasionnellement un auteur blanc, d’accord ?"

Fable a répondu à ce problème dans un commentaire, précisant qu’une équipe travaillait pour remédier à la situation. Dans une déclaration plus détaillée, M. Gallello a indiqué que l’entreprise mettrait en place des mesures de protection, telles que des indications claires sur la génération par intelligence artificielle des résumés, la possibilité de s’en désinscrire et un bouton "je n’aime pas" permettant de signaler un potentielle anomalie.

Tiana Trammell, résidente de Detroit, a téléchargé Fable en octobre pour suivre ses lectures. Juste avant la nouvelle année, elle a terminé trois livres d’auteurs noirs, mais le résumé qu’elle a découvert l’a laissée sans voix : "Je suis bien consciente que cela ne peut pas être ce que je vois. Je dois clairement manquer quelque chose." Elle a partagé ce résumé avec d’autres membres de son club de lecture, où plusieurs utilisateurs ont également partagé des résumés inappropriés reçus.

Un autre utilisateur qui avait lu des livres sur des personnes en situation de handicap a vu son choix qualifié de "pouvant provoquer un roulement des yeux d’un paresseux". Un troisième, quant à lui, a été confronté à des remarques sur le manque de diversité mêlant les choix littéraires à un point de vue limite stéréotypé.

M. Gallello a reconnu que le modèle d’IA avait pour objectif de créer des phrases ludiques à partir de descriptions de livres, mais que certains résultats étaient "préoccupants" dans ce qui devait être un "espace sûr" pour les lecteurs. Il a ajouté que l’approche "ludique" de l’IA serait abandonnée, et d’autres actions étaient envisagées.

Fable ne s’est pas exprimé sur combien de résumés avaient été signalés par les utilisateurs, mais M. Gallello a mentionné que certains usagers avaient fait part de leurs retours après que les filtres de l’application n’ont pas réussi à empêcher du contenu inapproprié.

L’usage de l’intelligence artificielle est devenu une voix à la fois indépendante et souvent utile, mais parfois problématique, dans de nombreuses communautés, y compris parmi les organisations religieuses et les médias. L’intervention de l’IA dans le domaine littéraire met en lumière sa capacité, ou son incapacité, à naviguer dans les subtiles interprétations des événements et du langage nécessaires à un comportement éthique.

Cela soulève également la question de jusqu’où les employés doivent veiller à vérifier le travail des modèles d’IA avant de le rendre public. L’application Fable, ainsi que d’autres plateformes comme Goodreads et The StoryGraph, sont devenues des espaces prisés pour des clubs de lecture en ligne et le partage de recommandations littéraires.

Points à retenir :

• Fable a reçu des plaintes concernant des résumés générés par IA comprenant des propos jugés offensants.
• Des mesures de sécurité seront mises en place pour éviter de futurs incidents, incluant de l’information sur la génération d’IA.
• Les utilisateurs ont manifesté des critiques face à l’usage d’IA dans un contexte littéraire, argumentant en faveur d’une alternative humaine.
• La situation soulève des réflexions sur la responsabilité des entreprises vis-à-vis de leurs outils d’IA et leur impact sur la culture littéraire.

Ce cas met en exergue le défi que représente la mise en œuvre de l’intelligence artificielle dans des espaces aussi sensibles que la littérature. Comment assurer une application respectueuse des valeurs humaines tout en bénéficiant des avancées technologiques ? Il semble impératif de trouver un équilibre entre innovation et éthique.