Un avocat australien a été signalé à une commission des plaintes judiciaires de l’État après avoir utilisé ChatGPT pour rédiger des documents judiciaires dans une affaire d’immigration, et l’outil d’intelligence artificielle a généré des citations de cas qui n’existaient pas.
Dans un jugement rendu vendredi par le tribunal fédéral de circuit et de la famille, la juge Rania Skaros a décidé de transmettre le dossier de l’avocat, dont le nom a été omis, au Bureau du Commissaire aux Services Juridiques de la Nouvelle-Galles du Sud (OLSC) pour examen.
Lors d’un appel concernant une décision d’un tribunal administratif, il a été établi que l’avocat avait soumis une demande modifiée au tribunal en octobre 2024, accompagnée d’un aperçu des arguments. La juge Skaros a noté que « les deux documents contenaient des citations de cas ainsi que des citations prétendues de la décision du tribunal qui n’existaient pas ».
Le 19 novembre, l’avocat a écrit au tribunal pour expliquer que les erreurs étaient non intentionnelles et qu’il regrettait profondément cette situation. Lors d’une audience du 25 novembre, il a reconnu avoir utilisé ChatGPT pour rédiger les documents.
« L'[avocat] a déclaré qu’il avait utilisé l’IA pour identifier des cas australiens, mais cela lui a fourni des références de jurisprudence inexistantes », a précisé Skaros. « Le tribunal a exprimé ses inquiétudes concernant la conduite de l'[avocat] et son incapacité à vérifier l’exactitude des documents soumis, notant qu’un temps considérable avait été consacré par le tribunal et mes collaborateurs à vérifier les citations et à tenter de retrouver les prétendues autorités. »
Dans une déclaration sous serment présentée au tribunal, l’avocat a indiqué qu’en raison de contraintes de temps et de problèmes de santé, il avait décidé d’utiliser l’IA.
« Il a consulté le site ChatGPT, a introduit quelques mots et le site a préparé un résumé de cas pour lui », a précisé le jugement. « Il a trouvé le résumé convaincant et a donc intégré les autorités et références dans ses documents sans vérifier les détails. »
Il a été rapporté que l’avocat était profondément embarrassé par cet incident et qu’il avait entrepris des démarches pour améliorer ses connaissances sur l’IA.
Un conseiller représentant le ministre de l’immigration a soutenu que l’avocat n’avait pas fait preuve de diligence suffisante et que, compte tenu de l’intérêt public quant à l’utilisation abusive de l’IA dans les procédures judiciaires, il était crucial que de tels cas soient signalés à l’OLSC.
« Il a été avancé [par le ministre] que ce type de comportement pouvait se reproduire et qu’il fallait “endiguer le problème” dès maintenant. »
Skaros a affirmé que l’utilisation de l’IA générative dans les affaires judiciaires est une question d’actualité en constante évolution, et qu’il était dans l’intérêt public de sensibiliser l’OLSC à ce type de comportement.
C’est le deuxième cas juridique en Australie dans lequel un avocat a été signalé à un organisme de réglementation pour avoir utilisé de l’IA, après qu’un avocat de Melbourne ait été référé au bureau des plaintes juridiques de Victoria l’an dernier pour avoir admis avoir utilisé l’IA dans une affaire de tribunal familial ayant engendré de fausses citations de cas.
Dans une note de pratique émise par la Cour suprême de la Nouvelle-Galles du Sud à la fin de l’année dernière, qui prendra effet lundi, des limites ont été instaurées concernant l’utilisation de l’IA générative par les avocats de cet État, stipulant notamment qu’elle ne doit pas être utilisée pour générer des affidavits, des déclarations de témoins, des références de caractère ou d’autres éléments soumis en preuve ou utilisés lors d’un contre-interrogatoire.
Points à retenir
- Un avocat australien a utilisé ChatGPT pour rédiger des documents juridiques, ce qui a conduit à des citations erronées.
- Sa conduite a suscité de vives inquiétudes au sein du tribunal, soulignant la nécessité de vérification des informations soumises.
- En conséquence, des directives ont été mises en place pour réglementer l’utilisation de l’IA dans les procédures juridiques en Nouvelle-Galles du Sud.
Ce cas soulève des questions cruciales sur l’intégration de l’intelligence artificielle dans le domaine juridique. La frontière entre l’assistance technologique et la responsabilité professionnelle semble de plus en plus floue, et il est essentiel de réfléchir aux implications éthiques et pratiques de l’utilisation de telles technologies dans la prise de décision judiciaire. Le débat sur la fiabilité de l’IA en milieu juridique reste ouvert et mérite notre attention.
C’est vraiment choquant de voir un avocat utiliser l’IA comme ça ! Ça soulève des questions sur notre confiance dans la technologie, surtout en matière de justice.
Ce cas souligne vraiment l’importance de la vérification des faits dans le domaine juridique. L’IA peut être un outil puissant, mais elle nécessite une supervision attentive pour éviter des erreurs graves.
Ce cas montre à quel point il est important de garder un œil sur l’IA dans la justice. À la fois fascinant et inquiétant, cela nous pousse à réfléchir !
C’est préoccupant de voir comment l’IA peut mener à des erreurs graves dans des situations légales. Cela rappelle l’importance de la vérification dans notre travail.
C’est incroyable de voir jusqu’où l’IA peut nous mener, mais il est tellement important de vérifier les informations. La vie des gens en dépend, tout comme celle de nos animaux !