Discuter avec une personne | Avis en bref

Lors d’un cycle de discussions sur l’intelligence artificielle (IA), la linguiste informatique Emily Bender a été interrogée sur les moyens d’éviter d’être laissés pour compte face aux grands modèles de texte généré. Elle a suggéré de s’interroger sur la métaphore « être laissés derrière », en se demandant qui est en tête et si nous souhaitons réellement les suivre. Peut-être, ajoutons-nous, qu’il n’y a pas de devant ou de derrière, mais plusieurs chemins à explorer.

L’artiste Jennifer Walshe, dans son ouvrage 13 manières de voir l’IA, l’art et la musique (Alpha Decay), aborde la question de l’IA avec légèreté et ouverture, la considérant comme un fertilisant pour l’imagination. Tout comme Walshe, la programmeuse Marga Padilla, auteure de Intelligence Artificielle, jouer ou briser les règles ? (Traficantes de sueños), souhaite explorer cette technologie, comprendre ses capacités et ses limites, voire ses usages inappropriés. À l’opposé, le musicien Anthony Mosser, qui a partagé sur Internet son histoire intitulée « Je suis un détracteur de la IA », souligne son refus, affirmant que son humanité réside dans sa capacité à lire et comprendre le langage, à réfléchir et à créer de l’art. Pour lui, seul l’être humain peut ressentir de la colère ou de l’amour, et il célèbre cette humanité. Néanmoins, tous trois s’accordent à dire que la notion d’IA recouvre diverses technologies, processus et finalités.

Une grande partie de ces processus est liée à l’automatisation, aux systèmes de décision automatisés, à l’optimisation prédictive et à l’apprentissage automatique, qui permettent d’inférer sans vraiment comprendre. Si l’automatisation peut s’avérer bénéfique dans certains contextes, elle peut également engendrer une nouvelle forme de fatigue liée à la confusion et à une perte d’autonomie. Par exemple, elle peut aider à prédire des niveaux de pollution ou à développer de nouveaux antibiotiques, mais lorsqu’il s’agit de relations humaines, personne ne souhaite être traité comme un simple numéro.

Le poète Carlos Piera a écrit que l’humanité repose sur deux vérités : notre diversité et notre égalité. Cette dualité souligne l’importance de ne pas discriminer en matière de droits et la nécessité d’un environnement qui reconnaisse ce qui ne peut être quantifié. En effet, deux situations apparemment similaires ne sont pas forcément identiques, car chaque individu possède son propre vécu, ses relations et ses défis personnels. Comme l’a si bien dit Richard Feynman, les exceptions démontrent lafausse nature des règles. Bien que des régulations soient nécessaires, il est primordial qu’il existe un espace pour que chaque voix unique soit entendue.

Dans le monde professionnel, certains semblent oublier qu’ils interagissent avec un être humain, peut-être par indifférence ou parce qu’on leur a imposé des normes qui restreignent leur capacité d’attention. Cela aboutit à des situations où les besoins individuels sont négligés, et où l’on déshumanise tant l’interlocuteur que le professionnel lui-même, réduits à de simples rouages d’un système. Ce dernier, souvent perçu comme une entité, n’est que le résultat d’un processus né d’un besoin artificiel. Améliorer les conditions de travail et accroître l’autonomie des individus ne figure que rarement parmi les priorités des plateformes ou des instances qui mettent en place des normes.

Avant même l’essor de l’IA, les inégalités sociales avaient déjà creusé un fossé dans l’accès à un traitement humain. La solution logique serait de lutter contre cette discrimination plutôt que de l’accentuer sous couvert d’efficacité. En médecine, par exemple, si le temps fait défaut pour examiner chaque patient, l’approche ne devrait pas être de délocaliser ce soin, mais d’améliorer les conditions de travail et de vie.

Des problématiques telles que la privatisation, la corruption et le manque de réflexion sur les besoins réels nuisent au sens du travail, même si de nombreuses personnes continuent à agir avec un dévouement admirable. Être plus efficace ne signifie pas que l’essence même du travail soit respectée. L’efficacité peut parfois servir à nuire, exclure ou manipuler sans jugement. Bien qu’on nous assure que l’automatisation rend cette quête inévitable, la question demeure : ne serions-nous pas en train de vivre un tournant critique où les décisions prises doivent impérativement être pesées avec rigueur ?

Des collectifs, comme Tu Nube Seca Mi Río, qui ont mis en lumière le gaspillage des ressources énergétiques et hydriques des centres de données, voient leur nombre croître. Ils dénoncent comment ces pratiques mettent en péril non seulement notre santé, mais celle des écosystèmes. Alors que les limites de notre planète devraient nous inciter à changer nos comportements, l’exploitation abusive des ressources reste l’une des faiblesses majeures de l’automatisation. Cela inclut également les risques d’erreur inhérents à de tels systèmes, la manipulation et la spéculation, ainsi que la lutte pour protéger les données des citoyens. Tout cela contribue à dévaluer les relations humaines et à renforcer les biais existants.

« Je souhaite parler à une personne » est peut-être la phrase la plus souvent prononcée face à un chatbot. Lorsque l’on parvient à transcender cette impasse, il arrive parfois que le modèle généré indique : « Je m’excuse de ne pas avoir pu vous aider. » Ces mots ne sont ni une fiction ni une empathie, mais un mensonge, ne reflétant ni l’authenticité d’une intention, ni la responsabilité intrinsèque qui accompagnent chaque engagement humain.