Expertise technique d'un système d'intelligence artificielle
Quand un expert judiciaire rencontre une question technique d'IA étrangère à sa spécialité, il peut recueillir l'avis d'un sapiteur spécialisé. Une sortie d'IA contestée est rarement le fait d'un modèle seul. Elle résulte d'une chaîne : une interface, des instructions, des données, un modèle, des outils, une validation humaine. L'analyse technique consiste à établir ce que chaque maillon a fait et ce qu'il en reste.
Expertiser un système d'intelligence artificielle, c'est reconstituer ce qui a été envoyé au modèle, ce qu'il a renvoyé et ce que le système en a fait. La réponse d'un assistant d'entreprise dépend de ses instructions système, des documents qu'on lui a fournis, du modèle et de sa version, des outils qu'il pouvait appeler et de la relecture humaine. Chacun de ces maillons peut expliquer une erreur, et chacun laisse, ou non, une trace. Les journaux de l'organisation qui exploite le système sont souvent la source principale, car les fournisseurs ne conservent en général les requêtes que pour une durée limitée. Les outils de détection de texte généré et les filigranes donnent des indices, jamais une certitude. Le sujet ne doit pas être confondu avec l'usage de l'IA par l'expert lui-même, que le CNCEJ encadre par des recommandations.
Deux sens de « intelligence artificielle et expertise judiciaire »
L'expression recouvre deux sujets distincts, souvent confondus dans les résultats de recherche :
- l'IA objet de l'expertise : un système d'IA est en cause dans le litige, et il faut établir techniquement ce qu'il a fait. C'est le sujet de ce site ;
- l'IA outil de l'expert : l'expert utilise lui-même des outils d'IA pour analyser des pièces ou rédiger. Ce sujet est traité en fin de page.
Une chaîne, pas « ChatGPT »
Dire qu'une réponse « vient de ChatGPT » ou « de l'IA » n'explique rien. Entre la question d'un utilisateur et le résultat utilisé se succèdent des maillons distincts, configurés par des personnes différentes.
- Utilisateur — trace possible : compte, horodatage
- Interface — trace possible : application, version
- Instructions système — trace possible : configuration
- Prompt — trace possible : saisie, historique
- Données / RAG — trace possible : documents, index
- Modèle — trace possible : fournisseur, version, paramètres
- Outils / API — trace possible : appels, réponses
- Résultat — trace possible : sortie conservée
- Validation humaine — trace possible : relecture, modification
Composant par composant
Le modèle et sa version
Le modèle produit le texte. Un même nom commercial recouvre des versions successives ; les fournisseurs publient des identifiants de version et retirent les anciens modèles après un préavis. Identifier la version en service à la date des faits est la première vérification.
Les instructions système
Fixées par celui qui configure le système, invisibles pour l'utilisateur, elles encadrent toutes les réponses : rôle, ton, règles, interdits, format. Elles expliquent souvent un comportement mieux que le modèle.
La requête et le contexte
Ce que le modèle reçoit n'est pas seulement la question tapée par l'utilisateur : l'historique de la conversation, des documents joints, des données ajoutées par le logiciel. Distinguer ce que l'utilisateur a saisi de ce qui a réellement été envoyé au modèle est souvent décisif.
Les données et la génération augmentée par récupération (RAG)
Dans un système RAG, un moteur de recherche retrouve des passages dans une base documentaire et les transmet au modèle, qui rédige à partir d'eux. Une réponse fautive peut alors venir du modèle, des documents disponibles dans la base, ou de la sélection des passages transmis.
Les outils et les agents
Lorsqu'un modèle « utilise un outil », il émet une demande structurée — nom de l'outil et arguments. C'est le logiciel qui l'entoure, ou le fournisseur, qui exécute l'action. Pour imputer une action, il faut donc distinguer la proposition du modèle, le code qui l'exécute et les droits accordés à l'outil.
La validation humaine
Qui pouvait relire, corriger ou bloquer le résultat, à quelle étape, et l'a-t-il fait ? La supervision prévue sur le papier et celle qui s'exerçait en pratique diffèrent parfois.
Quelles traces existent, et chez qui ?
Trois sources de traces coexistent, avec des durées de vie très différentes :
- chez le fournisseur du modèle : les requêtes adressées par API sont en général conservées pour une durée limitée, souvent de l'ordre de trente jours, et parfois pas du tout lorsqu'une option de non-conservation a été contractée ;
- chez l'organisation qui exploite le système : journaux applicatifs, historiques de conversation, historiques d'exécution des automatisations. Ils sont souvent la source principale, voire la seule ;
- chez l'utilisateur : captures d'écran, exports, courriels. Utiles, mais à rapprocher des autres sources.
L'ANSSI recommande de journaliser l'ensemble des traitements d'un système d'IA générative — requêtes, traitements avant envoi au modèle, appels d'outils et de données, filtres en sortie, réponses — afin de pouvoir reconstituer entièrement un événement. Le règlement européen sur l'IA impose la journalisation automatique aux seuls systèmes à haut risque, et ces obligations ne s'appliqueront qu'à partir du 2 décembre 2027 ou du 2 août 2028 selon les cas, après le report décidé en 2026.
Provenance, filigranes et marquage des contenus
Depuis le 2 août 2026, l'article 50 du règlement européen sur l'IA impose aux fournisseurs de systèmes générant des contenus de synthèse de les marquer dans un format lisible par machine ; les systèmes mis sur le marché avant cette date ont jusqu'au 2 décembre 2026. Des techniques existent : filigranes insérés dans le texte généré, métadonnées de provenance pour les images, sons et vidéos.
Leurs limites sont décrites par leurs auteurs mêmes. Un filigrane n'est détectable que si le fournisseur du modèle l'a appliqué, et une réécriture l'affaiblit ; les métadonnées de provenance peuvent être retirées d'un fichier et ne disent rien de la véracité du contenu. L'absence de filigrane ou de métadonnées ne démontre donc pas qu'un contenu est d'origine humaine. Sur les détecteurs de texte, voir ce que vaut un score de détecteur ; sur les litiges, les fiches transparence (article 50) et contenus générés et hypertrucages.
Injection de requête
Un système qui lit des contenus extérieurs — pages web, courriels, documents — peut recevoir, dissimulées dans ces contenus, des instructions qui modifient son comportement. Ce risque, dit d'injection de requête indirecte, figure au premier rang du référentiel de l'OWASP pour les applications fondées sur les modèles de langage. Lorsqu'un comportement anormal est constaté, l'analyse vérifie si des contenus traités à ce moment ont pu en être la cause. Une investigation de sécurité approfondie relève d'un spécialiste de la sécurité informatique. Voir aussi la fiche agent d'IA et action dommageable.
L'IA, outil de l'expert
Le second sens de l'expression concerne les experts eux-mêmes. Le livret d'accueil du nouvel expert publié par le CNCEJ pour 2026 admet l'usage d'outils d'IA pour des investigations ou des calculs, à condition de le préciser dans le rapport : l'expert accomplit personnellement sa mission, et l'IA ne peut se substituer à lui ni dans le raisonnement ni dans la rédaction. En juin 2026, le CNCEJ a publié vingt recommandations sur l'IA dans l'expertise judiciaire — contrôle humain systématique, traçabilité de l'usage, confidentialité, refus des outils grand public non sécurisés — et annoncé un guide pratique. Ce sont des recommandations professionnelles, sans valeur normative.
La juridiction administrative s'est dotée en décembre 2025 d'une charte sur l'intelligence artificielle, qui réaffirme qu'aucune décision juridictionnelle ne peut être prise de façon automatisée sans contrôle humain.
Sources et références
- Glossary, entrées « Temperature » et « RAG ».
- Lewis P. et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks.
- Kalai A. T. et al., Why Language Models Hallucinate.
- Tool use with Claude.
- Function calling.
- Model deprecations, cycle de vie des modèles et paramètres dépréciés.
- Data controls in the OpenAI platform.
- API and data retention.
- Recommandations de sécurité pour un système d'IA générative (ANSSI-PA-102), recommandation R29, p. 25.
- LLM01:2025 Prompt Injection.
- Dathathri S. et al., Scalable watermarking for identifying large language model outputs.
- C2PA Specifications 2.2, Explainer.
- T. Madiega, Generative AI and watermarking, PE 757.583.
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle.
- Règlement (UE) 2026/1744 du 8 juillet 2026 modifiant le règlement (UE) 2024/1689 (omnibus numérique sur l'IA).
- Livret d'accueil du nouvel expert.
- La Lettre du CNCEJ n° 84, « 20 recommandations sur l'intelligence artificielle dans l'expertise judiciaire », p. 17 à 20.
- La juridiction administrative se dote d'une charte sur l'intelligence artificielle.
- Arrêté du 5 décembre 2022 relatif à la nomenclature prévue à l'article 1er du décret n° 2004-1463, article 1er (rubrique E.1.8 « Robotique, intelligence artificielle »).
Rédaction : Denis Atlan Publié le Méthode éditoriale et corrections