Un avocat de Los Angeles sanctionné pour avoir utilisé des citations fictives générées par l’intelligence artificielle
Un avocat de la région de Los Angeles a été condamné à une amende de 10 000 dollars pour avoir présenté un appel en cour d’État rempli de fausses citations générées par l’outil d’intelligence artificielle ChatGPT. Cette amende est la plus élevée infligée jusqu’à présent en Californie en raison d’inventions liées à l’IA et s’accompagne d’un avis sévère indiquant que 21 des 23 citations de cas mentionnées dans la note d’ouverture de l’avocat étaient fictives. L’avis souligne également que de nombreuses cours fédérales et des États ont récemment sanctionné des avocats pour avoir cité de fausses autorités juridiques.
La cour a déclaré : « Nous publions donc cet avis comme un avertissement. En termes simples, aucun mémoire, requête, motion ou autre document déposé dans une cour ne doit contenir des citations – qu’elles proviennent de l’IA ou de toute autre source – que l’avocat responsable du dépôt n’a pas lu et vérifié personnellement. »
Cet avis, rendu il y a dix jours par la Cour d’appel du 2e district de Californie, illustre clairement les efforts des autorités judiciaires de l’État pour réglementer l’utilisation de l’IA dans le système judiciaire. Le Conseil judiciaire de l’État a récemment émis des directives exigeant des juges et du personnel judiciaire d’interdire l’IA générative ou d’adopter une politique d’utilisation d’ici le 15 décembre. Parallèlement, l’Association du barreau de Californie envisage de renforcer son code de déontologie pour tenir compte des différentes formes d’IA suite à une demande de la Cour suprême de Californie le mois dernier.
L’avocat sanctionné, Amir Mostafavi, a admis à la cour qu’il n’avait pas lu le texte généré par l’IA avant de soumettre l’appel en juillet 2023, quelques mois après que l’OpenAI a commercialisé ChatGPT comme capable de réussir l’examen du barreau. Une formation de trois juges lui a infligé une amende pour avoir déposé un appel frivol, violé des règles de cour, cité des cas fictifs et gaspillé le temps de la cour ainsi que l’argent des contribuables, selon l’avis.
Mostafavi a déclaré à CalMatters qu’il avait rédigé l’appel puis utilisé ChatGPT pour tenter de l’améliorer, mais il ne savait pas que l’outil ajoutait des citations de cas ou fabriquait des informations. Il considère qu’il est irréaliste de s’attendre à ce que les avocats cessent d’utiliser l’IA. Il estime qu’elle est devenue un outil essentiel, semblable aux bases de données en ligne qui remplacent en grande partie les bibliothèques juridiques. Tant que les systèmes d’IA continueront à produire des “hallucinations” d’informations fausses, il recommande aux avocats d’utiliser l’IA avec prudence.
« En attendant, nous aurons des victimes, des dommages, des déchirements », a-t-il déclaré. « J’espère que cet exemple aidera d’autres à ne pas tomber dans le piège. Je paie le prix. »
L’amende infligée à Mostafavi est la plus lourde jamais imposée à un avocat par une cour californienne et fait partie des amendes les plus élevées liées à l’utilisation de l’IA par des avocats, selon Damien Charlotin, enseignant en droit et IA à Paris, qui suit les cas d’avocats citant des affaires fictives, principalement en Australie, au Canada, aux États-Unis et au Royaume-Uni.
Un cas très médiatisé en mai a conduit un juge de district américain en Californie à ordonner à deux cabinets d’avocats de verser 31 100 dollars en frais à la défense et à la cour pour des coûts associés à l’utilisation de « recherches AI-bogus ». Dans ce jugement, le juge a déclaré s’être senti trompé, affirmant qu’il avait presque cité des documents faux dans un ordre judiciaire et qu’une forte dissuasion était nécessaire pour éviter que les avocats ne cèdent à cette solution facile.
Charlotin estime que les tribunaux et le public doivent s’attendre à une augmentation exponentielle de ces cas à l’avenir. Lorsqu’il a commencé à suivre les dépôts judiciaires impliquant l’IA et des cas fictifs plus tôt cette année, il ne rencontrait que quelques cas par mois. Maintenant, il en voit plusieurs par jour. Les grands modèles linguistiques déclarent faussement certaines allégations comme des faits, en particulier en l’absence de preuves supportant.
« Plus votre argument juridique est difficile à défendre, plus le modèle aura tendance à halluciner, car il essaiera de vous satisfaire », a-t-il expliqué. « C’est là que le biais de confirmation entre en jeu. »
Une analyse récente de RegLab de l’Université de Stanford a révélé que bien que trois avocats sur quatre prévoient d’utiliser l’IA générative dans leur pratique, certains types d’IA génèrent des hallucinations dans un cas sur trois. Détecter du contenu faux cité dans les dépôts juridiques pourrait devenir de plus en plus difficile à mesure que les modèles se développent.
Un autre suivi des cas où des avocats citent des autorités juridiques inexistantes en raison de l’utilisation de l’IA recense 52 tels cas en Californie et plus de 600 à l’échelle nationale. Ce chiffre devrait augmenter prochainement, car l’innovation en matière d’IA dépasse la formation des avocats, selon Nicholas Sanctis, étudiant en droit au Capital University Law School dans l’Ohio.
Jenny Wondracek, qui dirige ce projet de suivi, prévoit que cette tendance va empirer, car elle rencontre toujours régulièrement des avocats qui ne savent pas que l’IA crée des informations fausses ou qui croient que les outils juridiques technologiques peuvent éliminer tout contenu erroné produit par les modèles linguistiques.
« Je pense que nous verrons une réduction si (les avocats) comprennent simplement les bases de la technologie », a-t-elle déclaré.
Tout comme Charlotin, elle suspecte qu’il y a plus d’exemples de cas inventés par l’IA dans les dépôts judiciaires d’État que dans les cours fédérales, mais un manque de méthodes de dépôt standard rend la vérification difficile. Elle ajoute qu’elle rencontre des cas fictifs le plus souvent parmi des avocats surchargés ou des personnes qui choisissent de se représenter elles-mêmes en cour de famille.
Elle estime que le nombre d’arguments déposés par des avocats utilisant l’IA et citant des cas fictifs continuera d’augmenter, tout en notant que ce ne sont pas seulement les avocats qui s’engagent dans cette pratique. Ces dernières semaines, elle a documenté trois cas où des juges ont cité une autorité juridique fausse dans leurs décisions.
Alors que la Californie envisage comment traiter l’IA générative et les citations de cas fictifs, Wondracek a déclaré qu’elle pourrait s’inspirer des approches adoptées par d’autres États, telles que des suspensions temporaires, l’obligation pour les avocats pris en faute de suivre des cours sur l’utilisation éthique de l’IA, ou de les inciter à enseigner aux étudiants en droit comment éviter des erreurs similaires.
Mark McKenna, codirecteur de l’Institut de technologie, de droit et de politique de UCLA, a loué des amendes comme celle infligée à Mostafavi, considérant cela comme une sanction pour une « abdication de votre responsabilité en tant que partie représentant quelqu’un ». Il pense que le problème « s’aggravera avant de s’améliorer », car il y a eu une ruée parmi les écoles de droit et les cabinets privés pour adopter l’IA sans réfléchir à leur utilisation appropriée.
Le professeur Andrew Selbst de la UCLA School of Law partage cet avis, soulignant que les clercs qui travaillent pour les juges sont des diplômés récents des facultés de droit, et que les étudiants sont bombardés avec le message qu’ils doivent utiliser l’IA ou être laissés pour compte. Les éducateurs et d’autres professionnels ressentent également des pressions similaires.
« Cela nous est imposé de toutes parts », a-t-il déclaré. « Cela est poussé dans les cabinets et les écoles, et nous n’avons pas encore examiné les conséquences que cela implique. »
Points à retenir
- Le cas d’Amir Mostafavi souligne les dangers potentiels de l’usage non vérifié de l’IA dans le domaine juridique.
- La réglementation de l’utilisation de l’IA dans les tribunaux de Californie pourrait servir de modèle pour d’autres juridictions.
- Il est essentiel que les avocats comprennent les limites et les risques liés à l’utilisation de l’IA afin d’éviter des sanctions.
- Un nombre croissant de juges et d’avocats détectent des cas de citations fictives, indiquant une tendance préoccupante qui exige une attention immédiate.
La question qui se pose est de savoir comment le secteur juridique va adapter sa pratique à cette évolution technologique inéluctable. La formation continue et la clarification des normes déontologiques seront essentielles pour naviguer dans cette nouvelle réalité. En outre, il est intéressant de réfléchir à l’impact que ces changements pourraient avoir sur la confiance du public envers le système judiciaire.