Un grand cabinet s’agace des hallucinations de l’IA

Le cabinet américain Morgan & Morgan a dû se résoudre à envoyer un courriel urgent au millier d'avocats qu'il emploie.

Le cabinet d'avocats spécialisé en dommages corporels a mis en garde ses avocats contre l'utilisation d'informations inventées dans les dossiers judiciaires: la présentation d'une jurisprudence inventée peut leur coûter leur poste.

Cet avertissement est avant tout une alerte contre l’utilisation non vérifiée de l'intelligence artificielle (IA). Aux États-Unis, deux avocats sur trois ont utilisé l’IA dans leur travail en 2024, et 12 % disent l’utiliser régulièrement, selon Reuters.

Or, depuis deux ans, sept tribunaux ont déjà pointé du doigt des avocats pour avoir déposé des faits juridiques inventés par des IA.

Et la dernière mise en cause des hallucinations de l’IA s'est produite dans une affaire d’importance.

Un juge fédéral du Wyoming a menacé de sanctionner deux avocats du cabinet Morgan & Morgan pour avoir inclus des citations fictives dans un procès contre Walmart, visant la commercialisation d’un jouet prétendument défectueux.

Un des deux avocats a admis avoir utilisé un programme d'IA qui a halluciné. Il s'est excusé pour cette erreur qu'il a qualifié d’involontaire.

L'an dernier, l'Association du barreau américain (ABA) a rappelé à ses 400 000 membres qu’ils doivent vérifier et assumer la responsabilité de leurs dépôts de documents sous peine de sanctions disciplinaires. L’ABA précisait que ces obligations s’appliquent aussi aux déclarations erronées involontaires générées par l’IA.