Références juridiques inventées par une IA et produites en justice
Des écritures citant des décisions qui n'existent pas ont été relevées par des juridictions françaises et étrangères. Le mécanisme est connu : un modèle de langage peut produire des références plausibles mais fausses, surtout lorsqu'il n'est pas relié à une base documentaire fiable et que ses sorties ne sont pas vérifiées.
Un modèle de langage généraliste peut produire des références de jurisprudence plausibles et inexistantes : c'est ce que l'on appelle couramment une « hallucination », terme technique et non qualification juridique. Les travaux de recherche rattachent ce phénomène à la manière même dont ces modèles sont entraînés et évalués. En France, le tribunal administratif d'Orléans a relevé en décembre 2025 quinze références inexistantes dans une requête, sans dire qu'une IA avait été utilisée ni prononcer d'amende. À l'étranger, un tribunal fédéral de New York a sanctionné en 2023 deux avocats et leur cabinet, qui avaient maintenu des décisions fictives produites par ChatGPT, et la High Court anglaise a rappelé en 2025 le devoir de vérifier toute citation auprès de sources faisant autorité. Une expertise est rare, mais possible dans une action en responsabilité contre un avocat ou contre l'éditeur d'un outil juridique : elle vérifie chaque référence dans les bases officielles, recherche l'outil utilisé et ses sources, et l'existence d'une étape de vérification.
Situation type
Une société reproche à son ancien conseil d'avoir perdu un procès après que la partie adverse eut démontré que quatre des arrêts cités dans ses conclusions n'existaient pas, et que deux autres portaient sur un sujet sans rapport. Elle engage sa responsabilité professionnelle et soutient que les écritures ont été rédigées avec un assistant d'IA grand public, sans vérification.
Le conseil répond qu'il utilisait un outil juridique spécialisé, présenté par son éditeur comme relié à une base de jurisprudence officielle, et appelle l'éditeur en garantie. La question devient technique : quel outil a produit quelles références, avec quelles sources, et l'outil offrait-il la fiabilité que son éditeur annonçait ?
Questions techniques que le juge ou l'expert peut poser
- Chaque référence citée existe-t-elle dans les bases officielles ? Pour chacune : inexistante, existante mais mal datée ou mal numérotée, existante mais sans rapport avec la proposition qu'elle est censée appuyer ?
- Le document porte-t-il des traces d'un outil génératif : métadonnées, restes de formules propres à l'outil, historique de conversation conservé ?
- Quel outil a été utilisé, dans quelle version, et était-il relié à une base documentaire ou fonctionnait-il sans source ?
- Pour un outil spécialisé : les références fausses figurent-elles dans sa base, ou ont-elles été produites par le modèle en dehors d'elle ? Que disait sa documentation de ses limites ?
- Une étape de vérification était-elle prévue dans le processus de rédaction, et a-t-elle été faite ?
- Les versions successives des écritures montrent-elles à quel moment les références ont été introduites ?
Quelle compétence technique ?
- IA générative : mécanisme des hallucinations, génération augmentée par recherche documentaire, outils juridiques du marché.
- Documentation juridique, pour la vérification matérielle des références, qui ne suppose aucun avis juridique.
- Criminalistique documentaire, pour les métadonnées des fichiers.
Éléments techniques à réunir
- Écritures déposées et leurs versions successives, avec les métadonnées des fichiers.
- Historique de l'outil utilisé, s'il a été conservé ; identifiant du compte et de l'offre souscrite.
- Résultat de la vérification de chaque référence dans les bases officielles, avec la date de consultation.
- Contrat et documentation de l'outil juridique : sources connectées, limites annoncées.
Textes applicables
- Code de procédure civile, article 32-1 : amende civile pour procédure dilatoire ou abusive, jusqu'à 10 000 euros, sans préjudice de dommages-intérêts.
- Code de justice administrative, article R741-12 : amende pour requête abusive devant le juge administratif, jusqu'à 10 000 euros.
- Kalai A. T. et al., Why Language Models Hallucinate : les procédures d'entraînement et d'évaluation récompensent la réponse devinée plutôt que l'aveu d'incertitude.
- Lewis P. et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks : principe de la génération augmentée, qui relie le modèle à un index de documents interrogé au moment de la requête.
Décisions rendues
- Tribunal administratif d'Orléans, 29 décembre 2025, n° 2506461 (quinze références de jurisprudence inexistantes relevées dans une requête) : quinze références de décisions inexistantes, au numéro inexistant ou ne correspondant pas à la date, relevées dans une requête ; le tribunal invite le conseil à vérifier que les références trouvées ne sont pas une « hallucination » ou une « confabulation ». Il ne dit pas qu'une IA a été utilisée et ne prononce pas d'amende. Jugement lu dans une reproduction publiée par un éditeur juridique.
- Mata v. Avianca, Inc., No. 22-cv-1461 (PKC), Opinion and Order on Sanctions (États-Unis) (22 juin 2023) : décision étrangère (États-Unis, tribunal fédéral de district de New York) : amende de 5 000 dollars, solidaire, contre deux avocats et leur cabinet qui avaient produit puis maintenu des décisions fictives générées par ChatGPT. Le recours à un outil d'IA fiable n'est pas en soi fautif, mais l'avocat conserve un rôle de contrôle.
- R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin) (Angleterre) (6 juin 2025) : décision étrangère (Angleterre et pays de Galles, High Court) : les outils génératifs grand public ne permettent pas une recherche juridique fiable ; l'avocat doit vérifier ses citations auprès de sources faisant autorité et ne peut s'en remettre à son client ; renvoi des avocats concernés à leurs autorités de régulation.
D'autres décisions françaises sont signalées par la presse spécialisée ; elles seront citées une fois lues à leur source.
Limites de l'analyse technique
- Établir qu'une référence n'existe pas est une vérification matérielle ; établir qu'elle a été produite par une IA suppose des traces, souvent absentes.
- L'historique d'un assistant grand public peut avoir été supprimé par l'utilisateur ou ne plus être conservé par le fournisseur.
- Dire si le rédacteur a commis une faute, ou si l'éditeur de l'outil a manqué à ses obligations, relève du juge.
Fiches liées
- Pièce générée ou altérée par IA : contester l'authenticité d'une preuve
- Assistant conversationnel ayant donné une information erronée à un client
- « IA washing » : allégations trompeuses sur l'usage de l'intelligence artificielle
- Obligation de maîtrise de l'IA (article 4) : les litiges
Tous les contentieux de l'IA et de la robotique
Sources et références
- Code de procédure civile, article 32-1.
- Code de justice administrative, article R741-12.
- Kalai A. T. et al., Why Language Models Hallucinate.
- Lewis P. et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks.
- Tribunal administratif d'Orléans, 29 décembre 2025, n° 2506461, quinze références de jurisprudence inexistantes relevées dans une requête.
- Mata v. Avianca, Inc., No. 22-cv-1461 (PKC), Opinion and Order on Sanctions (États-Unis), 22 juin 2023.
- R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin) (Angleterre), 6 juin 2025.
Rédaction : Denis Atlan Publié le Méthode éditoriale et corrections