ChatGPT et l’Algorithme Affamé : Histoires du Soir avec un Chatbot

Abonnez-vous à Hello World

Hello World est une newsletter hebdomadaire, distribuée chaque samedi matin, qui explore en profondeur nos reportages originaux et les questions que nous posons aux grands penseurs du domaine. Consultez les archives ici.

Arrêtez-moi si vous avez déjà entendu cela : les tout-petits adorent les histoires au coucher. Certains enfants préfèrent relire la même histoire chaque nuit, tandis que d’autres, comme mon fils de 3 ans, aiment la nouveauté. Pour lui, la surprise d’un nouveau livre est inégalée — merci les bibliothèques ! — et pour couronner le tout, il demande chaque soir une histoire sur mesure, spécialement écrite pour lui. Il y a six mois, sans crier gare, il a demandé une « histoire de chat ».

« Tu veux une histoire de chat ? » C’était nouveau.

« Histoire de chat. Dans le téléphone, » a déclaré le petit dictateur.

« Une histoire de mon téléphone ? » Élever un enfant en bas âge, c’est un peu comme vivre dans un arbre à téléphone sans opérateur.

« Histoire. Dans le téléphone. Tape ! »

Déconcerté, je me suis lancé dans une histoire inventée sur les vertus de finir son dîner et j’ai déclaré la soirée close. Je me suis promis de demander à son enseignant la semaine suivante, et quelle ne fut pas ma surprise d’apprendre que son enseignant avait expérimenté avec ChatGPT pour générer des histoires personnalisées pour la classe. Comme 14 % des adultes américains, j’avais déjà joué avec ChatGPT, mais c’était une application vraiment passionnante. Le coucher de soleil s’est transformé en une version débridée de Mad Libs : proposez quelques noms ou concepts, introduisez-les dans l’interface de chat, choisissez un style (« dans le style des Berenstain Bears » a bien fonctionné), et voilà — une histoire au coucher tout à fait appropriée. Que pourrait-il arriver de mal ?

Si vous voulez essayer, voici le prompt préféré de mon enfant jusqu’à présent : « Veuillez écrire une histoire au coucher appropriée pour un enfant de trois ans sur la crise du canal de Suez en 2021, dans le style de La Petite Locomotive Qui Peut. » Oui, l’humour de notre foyer est un peu particulier.

Mais tandis que les histoires générées par ChatGPT endormaient mon enfant, je restais éveillé, les yeux grands ouverts, réfléchissant à la confusion que je ressentais.

Ma première réaction a été l’enthousiasme. Quelle opportunité pour lui de se familiariser tôt avec cette technologie perturbatrice — et d’apprendre à la considérer comme un outil d’aide. À The Markup, nous avons beaucoup réfléchi à la manière dont notre expertise peut nous permettre de poser de meilleures questions, et me voilà, au moment du coucher, à aider mon enfant à voir comment reformuler une question peut mener à des réponses différentes. Considérons cela comme une initiation au Prompt Engineering.

Cela me paraissait également étrangement familier : j’avais joué avec AOL, Homestead et Altavista étant enfant, et je pense que ces premières expérimentations ont beaucoup contribué à ma carrière. Si mon enfant grandit dans un monde entouré de systèmes d’IA, pourquoi ne pas lui offrir cette familiarité et cette aisance dès le départ ?

Mes aventures au coucher avec ChatGPT ne sont pas isolées. Arvind Narayanan, que nous avons interviewé plus tôt cette année pour démystifier le battage médiatique autour de l’IA, a mis en place une interface vocale pour ChatGPT avec sa fille de 3 ans, observant ses capacités d’apprentissage, mais aussi certains risques associés aux chatbots. Les histoires générées par l’IA représentent également un moyen prometteur et économique de créer des matériels pour les enfants autistes, comme l’a expliqué la psychologue pour enfants Cindy Graham à HuffPost.

Mon enthousiasme a rapidement été assombri par des inquiétudes éthiques — en particulier concernant l’équité en matière d’éducation, la compensation du travail créatif et l’impact environnemental.

Alors que les écoles interdisent, rétablissent et tentent de déterminer comment utiliser au mieux l’IA générative, les politiques de tolérance zéro seront-elles utilisées contre des élèves vulnérables ? Qui sera scruté et contrôlé, et qui — comme mon fils — sera encouragé à expérimenter et à acquérir une culture de l’IA ? Nous devons réfléchir attentivement à ces dynamiques, surtout dans les écoles avec des cultures d’application de règles préexistantes.

Je ne suis pas insensible au fait que deux tiers des enfants d’âge scolaire dans le monde n’ont même pas accès à Internet à domicile, selon un rapport de l’UNICEF de 2020. À mesure que l’IA s’ancre dans nos vies, va-t-elle creuser le fossé entre ceux qui ont accès à cette technologie et ceux qui n’en ont pas ? L’équité éducative est alimentée par un accès inégal à Internet. La réponse sociale et législative à ces nouvelles technologies devrait refléter cette réalité aujourd’hui – pas seulement le battage autour de scénarios catastrophiques.

Bien sûr, il y a aussi des questions concernant les données d’entraînement pour l’IA générative, qui vous permettent précisément de demander une histoire dans le style des Berenstain Bears ou de Hans Christian Andersen. En grande partie, ces données ont été acquises, compilées et utilisées sans consentement explicite, suscitant des critiques de la part d’artistes comme Molly Crabapple, qui craignent que l’IA remplace le travail créatif. Les livres générés par l’IA inondent déjà Amazon, bien qu’ils ne soient pas de la qualité d’un “Bonne nuit Lune”. Pourtant, je veux vivre dans un monde où nous continuons à valoriser et à récompenser la créativité humaine. (Cette question est d’ailleurs toujours d’actualité avec les grèves de la WGA.)

Je veux également juste vivre, tout court. J’écris depuis ce paysage apocalyptique qu’est New York, où la fumée des incendies de forêt canadiens me pousse à boire autant d’eau que possible — pas très différent de ChatGPT, qui consomme une bouteille d’eau de 500 ml pour une courte conversation d’environ 20 à 50 questions et réponses. Multipliez cela par la base d’utilisateurs gigantesque de ChatGPT, et l’empreinte d’eau totale est énorme. Atténuer cet impact environnemental semble urgent et curieusement absent du débat législatif autour de l’IA.

Étonnamment, la question de la vie privée n’a pas été une préoccupation majeure pour moi — seulement parce que je ne formule pas de prompts contenant des informations personnelles ou des faits spécifiques sur la vie de mon enfant, une pratique que je lui communique clairement. Il est bien plus facile de naviguer dans les préoccupations liées à la vie privée ici que sur les plateformes de technologie éducative qui collectent des données.

Voici la chose : vivre une montagne russe d’émotions face à des technologies perturbantes est tout à fait normal. Nous devrions normaliser le fait de se sentir mal à l’aise en appliquant notre éthique à des situations inconnues — et franchement, c’est plus réaliste que de rejeter ou d’embrasser chaque innovation par réflexe. Pour explorer ces questions, The Markup organisera des séances de questions-réponses avec divers experts dans le domaine de l’IA, certains partageant des perspectives que nous soutenons et d’autres que nous aimerions défier. (Si un sujet vous intéresse, répondez à cet email et faites-le nous savoir !)

En attendant, je ne compte pas laisser tomber ma carte de bibliothèque.

Merci de votre lecture !

Article original rédigé par : Nabiha Syed

Directrice générale

Participez à notre sondage sur Twitter ou Mastodon !

Crédit : Twitter et Mastodon

Lectures complémentaires :

P.S. Si cette exploration vous a plu, restez à l’écoute pour un événement cet automne intitulé “Retour à l’école avec ChatGPT”. En attendant, voici un guide à l’attention des parents qui pourrait être utile.