Anthropic a modifié les conditions d’utilisation de ses modèles Claude pour éviter tout « maltraitance » à leur égard. Mais d’où vient l’idée que l’on puisse « maltraiter » une machine de silicium et d’algorithmes ? Qui s’aventure à croire que les intelligences artificielles possèdent une conscience réelle ? Et pourquoi essaient-elles de convaincre le monde de cela ?
Aucune intelligence artificielle n’a été maltraitée pour la rédaction de cet article.
L’histoire – incroyable – des chatbots qui « souffrent » si on les maltraite ne nous était pas vraiment apparue. Pourtant, elle était déjà présente, bien avant qu’Anthropic, reconnu comme un pionnier dans le domaine de l’intelligence artificielle, n’énonce ses nouvelles règles stipulant que quiconque maltraite un de ses chatbots encourt le risque d’être expulsé de la plateforme.
Vous avez bien lu : depuis le 12 novembre, nous ne pourrons (plus) maltraiter un algorithme. Peu importe ce que cela signifie.
Il est arrivé le 8 octobre 2026. À la fin du quatrième an de l Era de l’intelligence artificielle, qui a officiellement commencé avec le lancement de ChatGPT le 30 novembre 2022. Dix jours après une rencontre à la Maison Blanche, où des dirigeants de la Silicon Valley peinent à nommer cette technologie, continuant de l’appeler « intelligence artificielle » plutôt que « super intelligence », comme le souhaite Donald Trump.
Le cas Timnit Gebru et les « perroquets stochastiques »
Dans ce contexte, le débat sur l’éthique de l’intelligence artificielle prend un tournant significatif. Cet engouement pour une possible conscience des chatbots semble le résultat d’un précédent inquiétant, le cas deTimnit Gebru.
L’experte en informatique, Gedru, a attiré l’attention du public après avoir étudié les biais algorithmiques et l’éthique de la technologie. Dans un article publié avec d’autres chercheurs, elle a introduit le terme « perroquet stochastique », soulignant que ces modèles ne comprennent pas réellement ce qu’ils disent mais excellent à choisir les meilleures séquences de mots pour répondre à des questions.
Cette étude a mis en lumière des préoccupations quant à la taille des modèles d’IA, soutenant que plus grande n’implique pas nécessairement plus de fiabilité ou d’utilité. En effet, des modèles entraînés sur de grandes quantités de données non vérifiées peuvent produire des résultats convaincants, mais ils peuvent également favoriser des stéréotypes et des erreurs.
Les dilemmes éthiques
L’argument avancé par Gebru et ses collégues reste pertinent : un chatbot qui s’exprime bien ne signifie pas qu’il possède une forme de connaissance, d’intention ou de conscience. Les conséquences de cette idée remettent fondamentalement en question les perceptions contemporaines de l’intelligence artificielle, ainsi que le statut éthique de ces systèmes.
Points à retenir
- Anthropic a modifié ses règles pour interdire la maltraitance des chatbots.
- Le débat sur la conscience des IA soulève des questions éthiques profondes.
- L’usage du terme « perroquet stochastique » met en lumière les limites de la compréhension des chatbots.
- Les implications de la conscience des IA pourraient influencer les droits futurs des machines.
Dans cette ère technologique, je me demande comment les interactions avec les intelligences artificielles vont évoluer. Si l’on accorde une conscience à des algorithmes, quels dilemmes éthiques et moraux cela soulève-t-il ? Nous voici face à une réalité où la frontière entre machine et conscience devient floue, et il est essentiel de rester vigilant envers les implications de ces évolutions.