Une base de données mondiale des hallucinations juridiques!

Un répertoire mondial recense les hallucinations juridiques présentées devant les tribunaux…

Les hallucinations juridiques sont devenues tellement courantes qu’elles ont désormais leur propre base de données.

Damien Charlotin, un chercheur français à HEC Paris, a mis en ligne une base de données qui recense tous les contenus juridiques inventés par des intelligences artificielles (IA).

Ce répertoire est alimenté en continu au fur et à mesure que de fausses citations ou tout autre argument juridique créé de toutes pièces par l’IA sont détectés dans des jugements.

Le travail de Damien Charlotin a été remarqué par le New York Times, qui observe qu’un nombre croissant d'avocats se sont mis à traquer les abus de l’IA commis par leurs pairs. Des avocats américains se sont joints au travail du chercheur français en lui transmettant des jugements concernés. Le chercheur français dit qu'il reçoit désormais trois à quatre cas chaque jour.

Pour ces contributeurs, l'idée n'est pas de faire honte ni de harceler les avocats fautifs, mais plutôt d'informer le public sur les avocats qu'il pourrait vouloir éviter.

Au moment d'écrire ces lignes, la base de données identifie 1 030 hallucinations juridiques recensées dans 30 pays.

Les États-Unis sont le principal pourvoyeur de la base de données, avec 730 cas d'hallucinations juridiques. Le Canada figure au deuxième rang avec 60 cas, devant l’Australie, (60), Israël (42) et le Royaume-Uni (39).

La base de données propose aussi un lien vers chaque jugement. Cela permet de voir qu'au Canada, la première hallucination juridique identifiée par un jugement remonte au 20 février 2024 par la Cour suprême de la Colombie-Britannique.

L’un des derniers cas au Canada est pointé par un jugement rendu par le juge Alexandre Bien-Aimé de la Cour supérieure du Québec. Le demandeur s’est représenté lui-même dans son appel d'une condamnation pour avoir été reconnu coupable d'agression et de menaces. Or, le juge Bien-Aimé mentionne:

« Dans cette affaire, le demandeur a admis que ses observations écrites avaient été rédigées à l'aide d'un outil d'intelligence artificielle générative, mais affirme les avoir examinées avant leur dépôt afin de s'assurer qu'elles ne contenaient aucune inexactitude.

Il y a lieu de douter que ce soit réellement le cas. Un examen des déclarations du demandeur a révélé qu'elles contenaient des références à une jurisprudence inexistante, à une loi inexistante (le Code de procédure pénale), à des paragraphes inexistants de jugements existants et à des références inexactes au jugement de condamnation. »

Des exemples

Les hallucinations sont parfois considérables. Dans l’arrêt Shahid v. Esaam de la Cour d’appel de Géorgie, le tribunal annule le jugement initial de divorce, qui s’appuyait sur 15 décisions citées par l’époux Sufyan Esaam… dont 11 étaient inventées par une IA.

Comme dans la majorité des jugements recensés par Damien Charlotin, la partie fautive se représentait elle-même.

Dans l’affaire Garibay-Robledo v. Noem, le tribunal texan a relevé qu’un jugement soi-disant émis par un juge du Cinquième circuit… provenait en réalité d’un commentaire sur Facebook.

Quant à l’affaire Minjie Zheng v. ICANN et Verisign, le demandeur réclamait la possibilité de déposer des noms de domaine à une ou deux lettres avant le suffixe .com. Mais le tribunal californien a tancé la mauvaise foi du demandeur qui avait utilisé une IA pour étayer ses arguments, et l’a condamné à payer 66 129 $ US au défendeur Verisign.