ChatGPT : un avocat américain sanctionné après des citations judiciaires fictives

Déposer une requête devant un tribunal ne consiste pas seulement à présenter une argumentation convaincante. Chaque décision de justice citée, chaque référence et chaque extrait doivent pouvoir être retrouvés, contrôlés et discutés par les parties comme par les juges. C’est cette exigence fondamentale qui a été rappelée, de façon particulièrement concrète, dans une affaire examinée par la Cour d’appel de l’Utah.

L’avocat américain Richard Bednar a été sanctionné après le dépôt d’un document judiciaire contenant des citations inexactes et des références à des affaires qui n’existaient pas. Certaines de ces informations provenaient de ChatGPT, l’agent conversationnel d’OpenAI. Le dossier avait été élaboré par un assistant juridique de son cabinet, mais des éléments générés par l’IA ont été intégrés sans que toutes les vérifications nécessaires soient réalisées avant le dépôt.

L’épisode ne signifie pas qu’un avocat ne peut jamais utiliser un outil d’intelligence artificielle. Il rappelle, en revanche, que déléguer une première rédaction à une machine ne délègue ni la responsabilité professionnelle, ni le devoir de contrôle. Dans la justice, une référence inventée n’est pas une simple coquille : elle peut fausser le débat contradictoire, occasionner des frais inutiles et faire perdre un temps précieux au tribunal.

Ce que la Cour d’appel de l’Utah reproche à Richard Bednar

L’affaire porte sur une requête soumise par Richard Bednar dans le cadre d’une procédure judiciaire. Selon les éléments évoqués devant la Cour d’appel de l’Utah, le document comportait des citations erronées ainsi que des renvois à des affaires judiciaires fictives. Autrement dit, les précédents invoqués pour étayer l’argumentation ne pouvaient pas être retrouvés dans les bases de données juridiques.

Le problème a été mis au jour par l’avocat de la défense, qui a examiné le document. Celui-ci a relevé que certaines portions de la requête semblaient avoir été produites par une IA, notamment au regard de citations absentes des bases juridiques. Il a déclaré : « Il semble qu’au moins certaines parties de la requête aient été générées par une IA, notamment des citations qui n’existent dans aucune base de données juridique ».

Cette observation est importante car une citation juridique n’est pas un ornement rhétorique. Dans les pays de common law, comme les États-Unis, les décisions antérieures peuvent constituer des précédents essentiels au raisonnement. Une référence erronée peut donc conduire les adversaires, puis les magistrats, à rechercher inutilement une décision introuvable ou à répondre à une interprétation qui n’a jamais existé.

Lors d’une audience, Richard Bednar et son représentant ont confirmé que le document contenait des références juridiques fabriquées obtenues par ChatGPT. L’avocat a reconnu ses erreurs et présenté des excuses formelles. La Cour d’appel a relevé ces éléments dans son document.

Pourquoi ChatGPT peut-il inventer des décisions de justice ?

Les grands modèles de langage tels que ChatGPT sont conçus pour produire du texte en prédisant les mots les plus vraisemblables au regard d’une consigne et de leur entraînement. Ils ne fonctionnent pas, par nature, comme un répertoire juridique certifié qui consulterait systématiquement une base de jurisprudence à jour avant de répondre.

Cette propriété explique le phénomène couramment appelé « hallucination ». Le terme peut sembler imagé, mais il désigne un problème précis : l’outil génère une information fausse avec une formulation assurée et cohérente. Dans un contexte juridique, cela peut prendre plusieurs formes :

• le nom plausible d’une affaire qui n’a jamais été jugée ;
• une citation attribuée à tort à une décision réelle ;
• une règle de droit présentée sans nuance ou hors de son contexte ;
• une référence bibliographique ou procédurale impossible à vérifier.

Un modèle peut aussi mélanger des éléments existants. Il peut, par exemple, s’inspirer de la structure habituelle des références judiciaires américaines et combiner des noms, des dates ou des raisonnements qui paraissent convaincants. Plus le lecteur connaît mal le domaine concerné, plus ce type d’erreur est difficile à repérer au premier coup d’œil.

Le risque n’est donc pas propre au droit. Dans la santé, la recherche, la finance ou le journalisme, une IA générative peut également produire des affirmations non sourcées ou imprécises. Mais dans une procédure judiciaire, la marge d’erreur est particulièrement réduite : le document engage un client, influence une procédure et est soumis à des règles professionnelles strictes.

Des conséquences financières et professionnelles concrètes

La Cour d’appel de l’Utah n’a pas traité les références inventées comme une simple maladresse technique. Elle a imposé plusieurs mesures à Richard Bednar. L’avocat doit rembourser à son client les frais engagés pour préparer le dossier et pour sa présence à l’audience. Il doit aussi prendre en charge les frais d’avocat de la défense.

La décision prévoit en outre un versement de 1 000 dollars, soit environ 875 euros, à l’organisation à but non lucratif And Justice for All, qui exerce dans l’Utah. Ces mesures ont une portée à la fois réparatrice et dissuasive : elles compensent les coûts causés par le document erroné et rappellent que le recours à un outil automatisé ne saurait servir d’excuse.

Ces conséquences soulignent une réalité parfois oubliée dans les discussions sur l’IA : l’utilisateur humain demeure responsable du résultat qu’il signe ou dépose. Dans un cabinet, cette responsabilité ne disparaît pas non plus parce qu’un collaborateur, un assistant juridique ou un prestataire a préparé une première version. Le professionnel chargé du dossier doit s’assurer que le contenu transmis à la juridiction est exact.

L’IA en justice : une aide possible, pas un substitut à la vérification

Les outils conversationnels peuvent être utiles aux professionnels du droit dans certaines tâches : reformuler un texte, résumer un document déjà contrôlé, préparer des questions de recherche ou proposer une structure de note. Ils peuvent faire gagner du temps lors des étapes préparatoires, à condition que leurs résultats soient traités comme un brouillon et non comme une autorité.

La frontière essentielle se situe entre l’assistance rédactionnelle et la validation juridique. Un avocat peut demander à une IA de clarifier un passage complexe. Il ne peut pas présumer que les décisions citées par l’outil existent, qu’elles sont applicables à son dossier ou qu’elles reflètent toujours l’état du droit.

La pratique prudente consiste à vérifier chaque élément déterminant à sa source. Pour une jurisprudence, cela signifie retrouver la décision dans une base juridique fiable ou dans les archives de la juridiction concernée, lire le passage invoqué et contrôler son contexte. Une citation exacte peut tout de même être inadaptée si elle porte sur une autre juridiction, une situation différente ou une règle modifiée depuis.

La confiance dans les documents judiciaires est en jeu

Le système judiciaire repose en grande partie sur une confiance organisée. Les juges doivent pouvoir partir du principe que les avocats ont réalisé les vérifications élémentaires avant de soumettre une autorité juridique. Les parties adverses doivent pouvoir identifier les textes et décisions invoqués afin d’y répondre. Et les clients doivent pouvoir compter sur une représentation compétente et diligente.

L’introduction rapide de l’IA générative dans les pratiques de bureau fragilise ce cadre si elle s’accompagne d’une baisse de vigilance. Les réponses très fluides de ces outils peuvent donner une impression d’expertise, alors qu’elles ne donnent pas toujours accès à la chaîne de preuve nécessaire. Le danger est d’autant plus grand lorsque la charge de travail est forte ou que l’utilisateur n’a pas l’habitude de vérifier des citations juridiques.

L’affaire Bednar montre également que le problème est organisationnel autant que technologique. Le document avait été préparé par un assistant juridique du cabinet. Une utilisation responsable de l’IA suppose donc des procédures internes claires : savoir quels outils sont autorisés, déterminer quelles tâches peuvent leur être confiées, et prévoir une relecture par une personne compétente avant tout dépôt.

Quelques réflexes permettent de réduire fortement le risque :

• exiger une référence complète pour toute décision ou tout texte cité ;
• retrouver systématiquement la source dans une base juridique reconnue ;
• lire la décision originale plutôt que se fier à un résumé généré ;
• conserver une traçabilité des recherches et des sources utilisées ;
• soumettre les documents sensibles à une relecture humaine qualifiée.

Ces précautions ne visent pas seulement les avocats. Elles concernent toute personne qui produit un contenu à fort enjeu sur la base d’une IA, qu’il s’agisse d’un rapport professionnel, d’une expertise, d’un devoir universitaire ou d’une information publiée.

Ce qu’il faut surveiller dans l’usage de l’IA par les avocats

En juin 2025, l’usage de l’IA générative dans le monde juridique soulève une question simple : comment profiter d’outils capables d’accélérer la rédaction sans faire reculer les exigences de fiabilité ? L’affaire de l’Utah apporte une réponse nette sur un point : la rapidité ne peut jamais primer sur l’exactitude des sources.

La prochaine étape passe par la formation des professionnels, des assistants juridiques et des étudiants en droit. Comprendre les hallucinations d’une IA, savoir distinguer une suggestion rédactionnelle d’une information vérifiée, et maîtriser les méthodes de contrôle deviennent des compétences pratiques essentielles.

Les juridictions, les barreaux et les cabinets devront également préciser leurs règles d’usage. Certaines tâches se prêtent à l’automatisation sous supervision. D’autres, comme la validation d’une jurisprudence invoquée dans une requête, appellent un contrôle humain direct. Richard Bednar en a fait l’expérience à ses dépens : face à un tribunal, la responsabilité de la signature reste humaine, même lorsque les mots ont été proposés par une machine.