En Australie, un avocat renvoyé devant le régulateur après des citations inventées par ChatGPT

Quand une citation juridique semble précise, avec un nom d’affaire, une date et une formulation convaincante, elle peut donner une apparence d’autorité difficile à mettre en doute au premier regard. C’est précisément ce qui rend l’erreur d’un avocat australien particulièrement préoccupante : des références à des décisions inexistantes ont été versées dans une procédure d’immigration après un recours à ChatGPT.

Le dossier ne porte pas sur une simple coquille ni sur une interprétation discutable du droit. Les documents déposés en octobre 2024 comportaient des affaires et des citations que le tribunal ne pouvait pas retrouver parce qu’elles n’existaient pas. Dans son jugement, la juge fédérale Rania Skaros a décidé de transmettre l’affaire à l’Office du commissaire aux services juridiques de Nouvelle-Galles du Sud, l’organisme chargé notamment d’examiner les plaintes relatives à la conduite des professionnels du droit.

L’identité de l’avocat a été retirée des documents publics pour des raisons de confidentialité. Mais les faits rendent visible un problème qui dépasse son cas individuel : un outil conversationnel peut accélérer une recherche ou aider à rédiger, sans pour autant constituer une source de droit fiable. Devant un tribunal, cette distinction est décisive.

Des décisions de justice fictives déposées dans un dossier d’immigration

L’affaire s’inscrit dans une procédure d’immigration portée devant la Cour fédérale australienne. L’avocat y représentait un client et a soumis des documents destinés à étayer son argumentation. Plusieurs références juridiques, présentées comme des précédents australiens, se sont révélées fictives.

Une décision de justice n’est pas un élément décoratif dans une procédure. Dans les systèmes de common law, comme en Australie, les décisions précédentes participent directement au raisonnement juridique. Un avocat peut invoquer un arrêt pour montrer comment une règle a été interprétée, pour distinguer les faits de son affaire de ceux d’un précédent ou, dans certains cas, pour soutenir qu’une juridiction doit suivre une solution déjà retenue.

Citer une affaire inexistante fausse donc le débat à sa base. Cela oblige la partie adverse et le tribunal à consacrer du temps à rechercher un jugement introuvable, puis à déterminer s’il s’agit d’une erreur, d’une référence incomplète ou d’une invention. La juge Skaros a relevé le temps considérable perdu par la cour et ses collaborateurs pour tenter de déchiffrer ces citations et retrouver les décisions prétendument invoquées.

L’avocat a admis s’être appuyé sur ChatGPT pour repérer des affaires australiennes. Il a expliqué cette utilisation par des contraintes de temps et des difficultés de santé. Il a également fait part de son embarras et s’est engagé à mieux comprendre les technologies d’intelligence artificielle.

Ces explications peuvent éclairer les circonstances, mais elles ne font pas disparaître l’obligation professionnelle centrale : un avocat reste responsable de ce qu’il signe et transmet à la justice. Un outil, aussi fluide soit-il, ne peut pas assumer cette responsabilité à sa place.

Pourquoi ChatGPT peut-il inventer des précédents juridiques ?

ChatGPT appartient à la famille des grands modèles de langage. Son principe de fonctionnement consiste à produire la suite de mots la plus plausible au regard de la demande reçue et des régularités apprises pendant son entraînement. Cela lui permet de reformuler un texte, de synthétiser des notions ou de proposer une structure d’argumentation avec une aisance impressionnante.

Mais cette aptitude linguistique ne garantit pas l’exactitude factuelle. Lorsqu’il ne dispose pas d’une information certaine, ou lorsqu’une question appelle une source très précise, un modèle peut fournir une réponse qui ressemble à une référence authentique tout en étant erronée. On parle alors couramment d’« hallucination » de l’IA. Le terme ne décrit pas une intention de tromper : le logiciel ne distingue pas, de lui-même, une phrase plausible d’une source juridiquement valide.

Dans le droit, ce défaut est particulièrement dangereux. Les noms d’affaires suivent souvent des conventions reconnaissables, les citations comportent des abréviations et les décisions traitent de principes récurrents. Un système génératif peut ainsi assembler des éléments crédibles en apparence, mais créer une affaire qui n’a jamais été jugée.

La bonne pratique ne consiste donc pas à demander à un chatbot de fournir des précédents, puis à recopier sa réponse. Toute référence doit être contrôlée dans une base juridique fiable ou dans le texte officiel de la décision. Il faut notamment vérifier :

• le nom complet de l’affaire et la juridiction qui l’a rendue ;
• la date, la référence officielle et l’existence du jugement ;
• le passage exact invoqué, plutôt qu’un résumé produit par l’outil ;
• la portée réelle de la décision et son adéquation avec les faits du dossier.

Cette vérification est le travail juridique lui-même. L’IA peut éventuellement aider à préparer une piste de recherche, mais elle ne peut pas remplacer la consultation des décisions, des textes applicables et des bases documentaires reconnues.

Une obligation de vérification qui incombe à l’avocat

Les contraintes de temps sont fréquentes dans la vie des cabinets. Elles n’autorisent toutefois pas un professionnel à déposer des éléments non vérifiés. L’avocat doit agir dans l’intérêt de son client, avec compétence et diligence, tout en respectant ses obligations envers le tribunal et l’administration de la justice.

Le problème posé par cette affaire comporte deux dimensions. La première est factuelle : les citations n’existaient pas. La seconde est déontologique : elles ont été intégrées à des documents judiciaires sans contrôle préalable suffisant. C’est cette seconde dimension qui explique le renvoi au régulateur professionnel.

L’Office du commissaire aux services juridiques de Nouvelle-Galles du Sud peut examiner les plaintes et les questions liées à la conduite des juristes dans cet État. Au moment de la publication de cet article, le renvoi décidé par la juge Skaros ne préjuge pas de l’issue de cette procédure. Il ne permet donc pas d’affirmer qu’une sanction précise sera prononcée.

L’épisode montre aussi que la réputation d’un outil ne dispense jamais l’utilisateur de son jugement. ChatGPT est capable de produire en quelques secondes un texte lisible et structuré. Or, cette qualité rédactionnelle peut paradoxalement augmenter le risque : plus une réponse paraît cohérente, plus il devient tentant de la croire sans la contrôler.

L’Australie encadre plus explicitement l’IA devant les tribunaux

Cette affaire intervient alors que les juridictions australiennes précisent leurs attentes face aux outils génératifs. La Cour suprême de Nouvelle-Galles du Sud a récemment publié une note de pratique qui impose des restrictions à l’utilisation de générateurs d’intelligence artificielle par les avocats.

Parmi les principes rapportés, ChatGPT ne doit pas être utilisé pour produire des affidavits, c’est-à-dire des déclarations sous serment, ni d’autres documents juridiques soumis comme éléments de preuve. La logique est simple : de tels documents ne doivent pas refléter la formulation ou les inventions d’une machine, mais les faits et déclarations effectivement attribuables à une personne identifiée.

Il ne s’agit pas nécessairement d’interdire toute technologie dans les cabinets. La recherche juridique s’appuie depuis longtemps sur des bases de données, des moteurs de recherche et des logiciels d’analyse documentaire. La différence tient à la nature de l’outil : une base de données permet de retrouver des sources identifiables, tandis qu’un générateur de texte peut produire une réponse nouvelle sans signaler clairement qu’elle comporte une erreur.

Le cadre judiciaire cherche donc à préserver une frontière essentielle : l’assistance technique peut être utile, mais le contenu versé à une procédure doit rester vérifiable, attribuable et contrôlé par le professionnel qui le présente.

Un précédent à Melbourne et un signal pour toute la profession

Le cas examiné par la juge Skaros n’est pas isolé. Un autre avocat, à Melbourne, a déjà été renvoyé vers un organisme de régulation après l’utilisation de citations fausses dans une affaire devant le tribunal de la famille. La répétition de ces incidents explique l’attention croissante des autorités judiciaires à l’IA générative.

Le risque n’est pas uniquement administratif pour les avocats concernés. Pour le client, un mémoire fondé sur de faux précédents peut fragiliser une argumentation, retarder l’examen du dossier et compromettre la qualité de sa représentation. Pour la partie adverse, il augmente inutilement les coûts et le temps consacré à répondre. Pour le tribunal, il détourne des ressources qui devraient être réservées à l’analyse des faits et du droit réel.

Enfin, ces erreurs peuvent affecter la confiance du public. La justice dépend de procédures où chaque partie peut vérifier les arguments avancés et où le juge peut s’appuyer sur des sources identifiables. Une citation inventée brouille ces garanties fondamentales, même lorsqu’elle résulte de négligence plutôt que d’une volonté délibérée de tromper.

Ce qu’il faut surveiller

L’intelligence artificielle est appelée à prendre davantage de place dans les métiers du droit, notamment pour trier de grands volumes de documents, résumer des décisions, organiser des dossiers ou faciliter certaines tâches répétitives. Ces usages peuvent faire gagner du temps, à condition que le gain de productivité ne se transforme pas en transfert aveugle de responsabilité vers un logiciel.

La question centrale n’est donc pas seulement de savoir si les avocats doivent utiliser l’IA. Elle est de définir dans quelles tâches, avec quels contrôles et selon quelles règles de transparence. Les juridictions et les régulateurs devront continuer à préciser ce qui est acceptable, en particulier lorsque des contenus générés sont susceptibles d’influencer une décision de justice.

Pour les professionnels, la leçon est immédiate : une IA peut proposer, mais elle ne peut ni certifier une source ni porter une obligation déontologique. Pour les justiciables, l’affaire rappelle qu’un document juridique sérieux doit pouvoir être retracé jusqu’à des textes, des décisions et des preuves réelles. Dans un prétoire, la plausibilité n’est jamais une preuve.