Avez-vous déjà entendu parler des hallucinations qui trompent les êtres humains ? Sachez qu’elles affectent également l’intelligence artificielle générative, prouvant ainsi que la perfection n’existe pas. Ces systèmes nous racontent des mensonges présentés comme des vérités établies, de la même manière qu’un individu peu assuré contourne la question par des non-dits. Ce phénomène, appelé « hallucination » ou « confabulatoire » par certains, révèle comment ces systèmes affirment des informations erronées ou complètement inventées comme si elles étaient des faits. Par exemple, des mentions comme « Hillary Clinton a été la première présidente des États-Unis » ou « un kilo de fer pèse plus qu’un kilo de plumes » sont totalement fausses. Ce type d’erreur a été documenté, notamment dans des sources fiables, comme celle de l’éditeur historique Zanichelli.
Les causes
Consulter ChatGPT sur l’origine de ces hallucinations est instructif. Quand on pose la question : quelles sont les causes des hallucinations de l’intelligence artificielle générative ?, le chatbot fournit une réponse détaillée, expliquant que ces erreurs naissent d’une combinaison de facteurs liés à leur conception et leur entraînement. En résumé, ces modèles ne « fabriquent » pas des informations par choix, mais prédisent la réponse la plus plausible même sans fondement solide. Voici les raisons principales :
1) Prédiction statistique au lieu de connaissance. Ces modèles, basés sur des probabilités, peuvent remplir les vides de manière convaincante, mais fausse, si les données sont insuffisantes ou ambiguës.
2) Données d’entraînement imparfaites. Des informations erronées ou obsolètes peuvent influencer le modèle dans ses généralités.
3) Absence de vérification factuelle. Ces systèmes n’ont pas accès à des faits tangibles en temps réel.
4) Pression à répondre : optimisés pour être utiles, ils préfèrent donner une réponse même incertaine plutôt que de dire « je ne sais pas ».
5) Questions vagues ou mal formulées induisent une réponse incorrecte basé sur de fausses attentes.
6) Sur-généralisation, où le modèle applique des schémas erronés à des contextes inappropriés.
7) Limites du contexte, provoquant des erreurs dues à l’absence d’informations clés.
Les conséquences
Ces erreurs, acceptées sans questionnement par des professionnels peu attentifs, peuvent entraîner des conséquences dangereuses. La journaliste Claudia Morelli, sur la plateforme Altalex, nous relate des cas concrets. Un des premiers cas notables s’est produit à New York en 2023 dans l’affaire Mata v. Avianca : un avocat a soumis une requête rédigée par ChatGPT, qui a généré des précédents juridiques fictifs. Le juge a qualifié ces citations de « fausses » et a sanctionné l’avocat. Un incident similaire a eu lieu en 2025 à la Cour Suprême du Wyoming où un avocat a utilisé des précédents inexacts fournis par le même système. En Italie, un incident semblable a été enregistré, où les juges ont reconnu l’usage inapproprié de ChatGPT sans en attribuer une responsabilité aggravée pour litige abusif.
Points à retenir
- Les hallucinations de l’IA peuvent fausser l’information en créant des faits erronés.
- Ces systèmes agissent par prédiction statistique sans vérifier la véracité des données.
- Les erreurs peuvent avoir des répercussions significatives, notamment sur le plan juridique.
- Le manque de données fiables et la pression à répondre contribuent aux inexactitudes.
- Les questions imprécises peuvent induire des réponses biaisées de la part des modèles.
À travers ces réflexions, je suis amené à m’interroger sur la fiabilité des outils d’intelligence artificielle. Alors que leur usage se généralise, il devient essentiel d’évaluer avec discernement les informations fournies. Ne devrions-nous pas, en tant qu’utilisateurs, assumer une part de responsabilité dans la validation des données que nous recevons ? Cela suscite un engagement collectif en faveur d’une approche plus critique face à l’IA et ses dérives potentielles. Qu’en pensez-vous ?