Le bureau des procureurs d’un comté de Californie a récemment utilisé l’intelligence artificielle pour déposer un acte dans au moins une affaire pénale, ce qui a conduit à des erreurs connues sous le nom de « hallucinations ».
Un procureur du bureau du procureur de ce comté a reconnu qu’il avait eu recours à cette technologie pour la préparation d’un document, entraînant une citation erronée. Une fois l’erreur décelée, le dépôt a été immédiatement retiré, a déclaré le procureur Jesse Wilson dans un communiqué au Sacramento Bee.
Des avocats de la défense et des avocats des droits civiques affirment que l’utilisation de l’intelligence artificielle s’est également produite dans d’autres dépôts. En octobre, les avocats de Kyle Kjoller ont déposé une motion auprès de la cour d’appel du troisième district, demandant que des sanctions soient appliquées aux procureurs en raison d’un certain nombre d’erreurs dans les dépôts relatifs à l’affaire de Kjoller, qui est défendu par un avocat public et le Civil Rights Corps.
La cour d’appel a rejeté cette demande sans explication. Par la suite, les avocats de Kjoller ont relevé des erreurs similaires dans un acte provenant du bureau des procureurs dans une autre affaire. Une nouvelle demande d’appel a été introduite, qui a été rejetée lorsque Kjoller a été condamné dans son affaire criminelle.
Les avocats de Kjoller ont ensuite déposé une requête auprès de la Cour suprême de Californie, identifiant trois affaires qu’ils estiment contenir des erreurs typiques de l’intelligence artificielle générative. La cour n’a pas encore pris de décision quant à la poursuite de l’affaire.
« La dépendance des procureurs à des références juridiques inexactes peut enfreindre les règles éthiques et constitue une menace existentielle pour les droits à la procédure équitable des accusés et pour la légitimité des tribunaux, » ont déclaré les avocats de Kjoller. Leur dossier comprenait des exemples où le mémoire du procureur citait des passages inexistants ou mal interprétait des décisions judiciaires, des erreurs courantes en matière d’intelligence artificielle.
Le vendredi suivant, un groupe de 22 chercheurs, avocats et défenseurs de la justice pénale a déposé un mémoire à l’appui de l’affaire de Kjoller auprès de la Cour suprême de Californie.
Dans un communiqué au Sacramento Bee, le bureau du procureur a admis avoir utilisé l’intelligence artificielle dans un de ses dépôts, mais pas dans le cas de Kjoller. Jesse Wilson a ajouté que d’autres erreurs étaient dues à des fautes humaines.
« Les procureurs travaillent avec diligence et de bonne foi face à des charges de travail élevées et des contraintes de temps, » a-t-il déclaré. « Il ne peut pas être supposé que chaque erreur de citation provienne d’une utilisation de l’intelligence artificielle. »
« À aucun moment il n’y a eu d’intention de tromper la cour, et toute caractérisation contraire déforme les faits, » a-t-il ajouté. Après la découverte des erreurs, il a rappelé à tous les avocats du bureau de vérifier indépendamment toutes les citations juridiques, sans se fier à des matériaux générés par l’IA sans confirmation de sources fiables.
Dans une déclaration au New York Times, il a indiqué que le bureau avait organisé de nouvelles formations pour le personnel et mis en place une politique concernant l’utilisation de l’intelligence artificielle. Ce cas en Californie pourrait représenter la première instance d’un bureau de procureur utilisant l’IA générative dans un dépôt en justice aux États-Unis. Bien que des avocats du Canada, d’Australie, du Royaume-Uni et des États-Unis aient été sanctionnés pour leur utilisation de l’intelligence artificielle, ces cas n’impliquaient généralement pas de poursuite. Des chercheurs de l’école de commerce HEC Paris maintiennent une base de données des affaires judiciaires comportant des erreurs liées à l’IA, dont une seule, en Israël, a été rédigée par un procureur.
Points à retenir
- Utilisation croissante de l’intelligence artificielle dans le système judiciaire.
- Risques associés aux erreurs de citation liées à l’IA.
- Importance de la responsabilité éthique des procureurs.
- Efforts des avocats pour protéger les droits des accusés.
- Formation et politiques révisées dans les bureaux de procureurs.
En tant qu’observateur de l’évolution de la technologie dans le domaine juridique, je suis fasciné par les implications de l’intelligence artificielle sur l’équité des procédures judiciaires. Alors que les avancées technologiques offrent des avantages indéniables, il est crucial que nous restions vigilants face aux défis qu’elles posent. L’adoption de l’IA dans des domaines aussi sensibles que la justice nécessitera un encadrement rigoureux et une réflexion profonde sur la manière dont nous pouvons garantir la protection des droits individuels. Qu’en pensez-vous ?