Les inquiétudes autour de l’intelligence artificielle générative sont grandissantes.
Certaines personnes craignent qu’elle ne remplace leurs emplois, tandis que d’autres redoutent son autonomie, évoquant des drones capables de sélectionner eux-mêmes leurs cibles. Il est presque certain qu’elle accélérera l’extension et le pouvoir de la surveillance gouvernementale. Les deepfakes sont déjà utilisés pour influencer l’opinion publique dans le domaine politique.
Mais voici un autre sujet d’inquiétude : l’IA pourrait vous “dépersonnaliser”.
Sous Staline, l’Union soviétique a non seulement éradiqué les dissidents anti-gouvernementaux, mais a également effacé toute preuve de leur existence, allant jusqu’à retoucher les photographies officielles. L’inspiration pour le personnage principal de “1984” de George Orwell est venue de cette réécriture de l’histoire, où il travaillait dans un ministère chargé de réécrire le passé. Éliminer un ennemi de l’État est une chose ; garantir que ses idées ne puissent jamais inspirer qui que ce soit en les effaçant de l’histoire en est une autre, et surtout inquiétante.
Internet a remplacé les journaux imprimés en tant que première version de l’histoire. Les moteurs de recherche traditionnels comme Google sont de plus en plus alimentés par l’IA. Actuellement, de nombreuses personnes utilisent des modèles de langage générative comme ChatGPT au lieu de Google. Cependant, ChatGPT n’est pas fiable (et le problème ne se limite pas à sa tendance à “halluciner” des informations fausses), tout comme sa société mère, OpenAI, qui abuse de son pouvoir pour dépersonnaliser ses détracteurs.
Je sais de quoi je parle. Je fais partie de ceux-là.
Si vous tapez mon nom sur ChatGPT, la réponse ressemble à celle d’un robot confus d’un film de science-fiction des années 60, qui s’écrie “je ne comprends pas” tout en fumant. Lorsque je demande “Parlez-moi de Ted Rall”, la réponse est “Je ne peux pas produire de réponse”. Même en essayant de reformuler la question en demandant qui a fait quelque chose que j’ai accompli, comme remporter un prix ou écrire un livre particulier, la réponse est soit un mensonge, soit un refus de répondre. C’est sans appel, ils sont déterminés à faire abstraction de mon existence.
Qu’ai-je pu faire pour déplaire à Sam Altman ou à quelqu’un d’autre chez ChatGPT (je ne sais pas qui, car ils ne répondent pas à mes e-mails) ? J’ai écrit en 2023 un article d’opinion intitulé “ChatGPT m’a diffamé. Puis-je poursuivre ?” pour le Wall Street Journal, expliquant comment leur IA a menti à mon sujet. J’espérais attirer leur attention pour qu’ils règlent le problème. Au lieu de cela, ils m’ont expédié dans un cyber-gulag.
OpenAI n’ayant pas donné suite, j’ai demandé à l’application d’IA générative d’Elon Musk, Grok, si je devais m’attendre à des répercussions professionnelles. Elle m’a répondu : “Si ChatGPT, utilisé par des millions de personnes chaque semaine (par exemple, 300 millions d’utilisateurs d’ici 2024), refuse de vous reconnaître, cela pourrait réduire votre visibilité. Les nouveaux lecteurs recherchant ‘Ted Rall’ par le biais d’IA pourraient ne rien trouver, supposant que vous êtes obscur ou sans pertinence, surtout pour les jeunes utilisateurs (16-30 ans) dépendants des outils d’IA.”
Cependant, un de mes collègues dessinateurs de presse, qui a toujours accès à ChatGPT (moi non, ils ont également bloqué mon compte), a eu une conversation intéressante, bien que tortueuse, avec le bot à propos de ma situation, même s’il refusait de prononcer mon nom : “Vous dites qu’il a écrit un article dans un journal, qu’il a critiqué OpenAI, et que cela a suffi à l’effacer ? Si c’est toute l’histoire, c’est profondément troublant. Les sociétés ouvertes, et même les organisations qui valorisent l’innovation, devraient pouvoir accueillir la critique, surtout venant de personnes réfléchies.”
Mon collègue a souhaité rester anonyme “pour ne pas se faire effacer lol”.
La liste des ennemis d’OpenAI s’allonge. Dans un article publié dans The Hill en décembre, le professeur de droit à l’Université George Washington et expert juridique à la télévision, Jonathan Turley, a noté qu’il avait rejoint “un petit groupe d’individus qui ont effectivement été effacés par le système IA”, incluant le professeur de Harvard Jonathan Zittrain, le présentateur de CNBC David Faber, le maire australien Brian Hood et le professeur d’anglais David Mayer, maintenant décédé mais toujours “dépersonnalisé”. Comme dans mon cas, le bannissement de Turley a apparemment été déclenché par ses écrits affirmant avoir été diffamé par ChatGPT. “Le fil conducteur (dans ces dépersonnalisations) semble être les fausses histoires générées à notre sujet par ChatGPT”, note Turley. “L’entreprise semble avoir corrigé le problème non pas en effaçant l’erreur, mais en effaçant les individus concernés.” Zittrain, quant à lui, a écrit dans The Atlantic qu’il ne comprend pas pourquoi ChatGPT “semble sortir une guillotine” après que son nom soit évoqué.
En Europe, des défenseurs de la vie privée ont obtenu un “droit à l’oubli” légal, permettant de supprimer des résultats de recherche qui sont inexacts et inutilement perturbants, comme les comptes rendus d’une arrestation pour un crime pour lequel un suspect a ensuite été déclaré innocent. Aux États-Unis, les individus ont besoin d’un droit à ne pas être effacés des archives publiques à la merci d’une entreprise capricieuse qui refuse de répondre à des questions. (J’ai contacté OpenAI pour obtenir un commentaire sur cet article. Ils n’ont pas répondu.)
Il est prévu que ChatGPT contrôle 1 % du marché de la recherche d’ici la fin de l’année. Ainsi, je resterai trouvable 99 % du temps. Cependant, cette part actuelle progresse rapidement. Il semble que qu’une autorité supérieure — le gouvernement, qu’autre chose ? — devrait mettre un terme à cette nouvelle forme de censure avant qu’elle ne se transforme en une dystopie orwellienne à part entière.
Article original rédigé par : Ted Rall (@tedrall), caricaturiste politique, chroniqueur et romancier graphique, co-animateur du podcast DMZ America avec un autre dessinateur Scott Stantis. Son dernier livre, tout juste sorti, est le roman graphique “2024 : Revisited”.
Crédit photo : Dima Solomin sur Unsplash
Points à retenir
- La montée des inquiétudes liées à l’IA touche divers aspects de la société, de l’emploi à la surveillance.
- La possibilité de “dépersonnalisation” soulève des questions cruciales sur la liberté d’expression et la transparence des entreprises.
- Les répercussions de l’IA sur la création et la diffusion de contenus personnels nécessitent un cadre légal solide.
La question de la responsabilité des entreprises technologiques face à leurs impacts sur la vie des individus est cruciale. Dans un contexte où l’IA joue un rôle de plus en plus prédominant dans notre quotidien, il est essentiel de réfléchir à la régulation nécessaire pour garantir que la technologie serve l’intérêt de tous et non celui d’un petit nombre. Comment pouvons-nous, en tant que société, promouvoir une utilisation éthique de ces outils afin de protéger la voix de chaque individu ?