Les récentes décisions européennes, notamment le règlement AI Act 2024/1689, interdisent l’utilisation exclusive de systèmes automatisés pour rendre des jugements. Le Conseil supérieur de la magistrature (CSM) met en garde contre l’utilisation risquée de l’intelligence artificielle dans les décisions judiciaires. Selon une source proche du CSM, plusieurs procédures sont actuellement en cours contre des juges ayant utilisé des citations fallacieuses, un problème qui a déjà mené à des actions disciplinaires. Cette situation a mis en lumière le danger de l’usage d’outils comme ChatGPT, avec des juges rencontrant des difficultés concernant la validation de leurs décisions.
Il est révélé que des avocats, condamnés pour recours abusifs, ont également utilisé des textes générés par des intelligences artificielles, ce qui soulève la question de savoir combien d’autres ont pu échapper à cette vérification. La dernière réunion du CSM a donc conduit à des mesures strictes. Des systèmes sont d’ores et déjà testés dans les tribunaux italiens, visant à simplifier la gestion des dossiers grâce à l’IA. Toutefois, le risque que cette technologie prenne une place trop importante dans la prise de décision judiciaire est préoccupant.
La récente proposition de la septième Commission exclut explicitement tout usage de logiciels génératifs pour la rédaction de jugements. La responsabilité des décisions incombe uniquement aux juges, qui doivent faire preuve d’indépendance et d’impartialité. Pour que l’intégration de l’IA soit bénéfique, elle doit s’accompagner d’une transparence totale, ainsi que d’une supervision humaine constante. Le CSM envisage également la création d’un registre national des applications d’IA certifiées et de formations obligatoires pour les magistrats, soulignant la nécessité d’une approche responsable dans la manipulation des données judiciaires.
En Chine, l’IA est déjà utilisée pour réduire l’arbitraire des juges et garantir un jugement juste. Cependant, il est dangereux de transformer un processus déjà qualifié d’injuste en une simple comptabilité numérique. Comme l’a souligné l’avocat Ivano Iai, l’humanité, élément fondamental dans le jugement, manque cruellement à l’intelligence artificielle, qui ne se base que sur des syllogismes.
Points à retenir
- Les récents règlements européens interdisent l’usage exclusif d’IA pour les décisions judiciaires.
- Des juges sont actuellement sous enquête pour avoir utilisé des citations non vérifiées dans leurs jugements.
- Les outils d’IA comme ChatGPT sont classés comme illégaux pour la rédaction de jugements.
- Le CSM exige une supervision humaine rigoureuse et une transparence totale dans l’utilisation de l’IA.
- Un registre national d’applications IA et des formations pour magistrats sont envisagés.
La problématique de l’intelligence artificielle dans le domaine judiciaire soulève de nombreuses questions éthiques et pratiques qui méritent d’être débattues. Personnellement, je pense qu’il est essentiel de trouver un équilibre entre l’innovation technologique et la préservation des valeurs humaines dans notre système juridique. L’IA peut être un formidable outil d’assistance, mais elle ne doit jamais remplacer le jugement humain. L’avenir du droit doit être construit sur des bases solides, alliant progrès et humanité.