Dans quels cas un expert peut-il faire appel à un spécialiste de l'IA ?
Un spécialiste de l'IA est utile lorsque la réponse à une question du litige dépend du fonctionnement d'un système d'IA et que ce fonctionnement dépasse la spécialité de l'expert désigné. Voici les questions qui reviennent, et ce que l'on peut en attendre.
Les questions qui justifient l'avis d'un spécialiste de l'IA sont d'abord des questions de fait : qu'a fait le système, avec quelles données, selon quelles instructions, et qu'en reste-t-il comme trace. Il s'agit par exemple de distinguer ce qui relevait d'un modèle d'IA de ce qui relevait d'une règle programmée, de reconstituer une chronologie à partir des journaux, d'identifier les données fournies au modèle ou de vérifier qu'un résultat peut être reproduit. Chacune de ces analyses a une limite : un système probabiliste ne se rejoue pas toujours à l'identique, un journal peut être incomplet, une trace peut ne jamais avoir existé. L'avis dit ce que les éléments permettent d'établir, ce qu'ils ne permettent pas, et laisse au juge la qualification des faits.
Onze questions techniques
Déterminer le rôle réel de l'IA dans un processus
Un processus présenté comme « automatisé par l'IA » mêle souvent des règles fixes, des scripts et un appel ponctuel à un modèle. Établir ce que faisait réellement le modèle évite d'attribuer à l'IA ce qui relève d'une règle écrite par quelqu'un.
Distinguer automatisation classique et IA
Une automatisation classique applique des règles déterminées et donne toujours le même résultat pour les mêmes entrées. Un modèle d'IA produit une réponse apprise, souvent probabiliste. La distinction change la façon d'expliquer une erreur.
Documenter le fonctionnement d'une chaîne
Décrire chaque maillon, ce qu'il reçoit, ce qu'il transmet et ce qu'il conserve. C'est souvent la première pièce utile à l'expert et aux parties.
Analyser les paramètres et instructions à l'origine d'un résultat
Instructions système, modèles de requête, paramètres de génération : ce sont souvent eux, plus que le modèle, qui expliquent une sortie.
Étudier les journaux disponibles
Vérifier d'abord qu'ils sont complets et cohérents, puis en tirer la chronologie. Un journal lacunaire ne se lit pas comme un journal complet.
Identifier les données utilisées
Données fournies au modèle au moment de la requête, bases documentaires interrogées, historique de conversation. Leur état à la date des faits n'est pas forcément leur état actuel.
Vérifier les possibilités de reproduction
Rejouer une situation n'a de sens que si le système interrogé est comparable à celui des faits. Il faut l'établir avant de tester.
Caractériser les limites techniques d'un modèle
Ce qu'un modèle ne peut pas faire, ou fait mal, dans la configuration en cause : longueur de contexte, connaissances datées, erreurs factuelles plausibles.
Analyser l'influence du contexte, du prompt et des données
Faire varier un élément à la fois et observer l'effet, sur un nombre suffisant d'essais pour que l'observation ait un sens.
Distinguer faits techniques et hypothèses
Chaque constat reçoit un statut : établi par une pièce, observé lors d'un test, ou supposé. Le statut suit le constat jusqu'à la conclusion.
Rechercher les éléments d'une analyse contradictoire
Identifier ce que chaque partie détient — journaux, configurations, contrats avec le fournisseur — et ce qu'il faudrait lui demander de produire.
Ces questions se retrouvent, sous des formes propres, dans chaque famille de litiges : projet d'IA et contrat, assistant conversationnel qui renseigne mal, agent d'IA et action dommageable, preuve générée par IA. Le répertoire des contentieux les décrit une à une.
Audit de conformité ou analyse dans un litige ?
Les deux sont souvent confondus. Un audit de conformité vérifie, pour le compte d'une organisation, qu'un système respecte un référentiel — par exemple les obligations du règlement européen sur l'intelligence artificielle, applicable par étapes depuis 2025 et dont les exigences relatives aux systèmes à haut risque ont été reportées au 2 décembre 2027 ou au 2 août 2028 par le règlement (UE) 2026/1744. Une analyse dans un litige répond à une question de fait posée dans une procédure, à partir des éléments versés au dossier. Les méthodes se ressemblent ; le cadre, le destinataire et la portée ne sont pas les mêmes. Les litiges nés de ce règlement sont décrits dans la fiche litige sur la conformité à l'AI Act.
Peut-on démontrer un biais algorithmique ?
Parfois. Un biais se démontre par la comparaison des résultats produits pour des situations qui ne diffèrent que par la caractéristique en cause, sur un nombre de cas suffisant, avec le système tel qu'il fonctionnait à la date des faits. Cela suppose un accès au système ou à des données représentatives de ses décisions. Faute de cet accès, l'analyse peut seulement décrire ce que la documentation et les journaux laissent supposer. Dire si la différence constatée constitue une discrimination au sens du droit est une qualification juridique, qui n'appartient pas au technicien. Voir la fiche décision automatisée et discrimination.
Avant de solliciter un spécialiste
- Formuler la question technique en une ou deux phrases.
- Lister les éléments disponibles et ceux qu'il faudrait demander aux parties ; en procédure civile, les parties remettent à l'expert les documents qu'il estime nécessaires.
- Vérifier que la question relève bien d'une spécialité distincte de celle de l'expert, si l'intervention envisagée est celle d'un sapiteur.
- Identifier les parties, pour que le spécialiste vérifie l'absence de conflit d'intérêts avant tout échange sur le fond.
Sources et références
- Code de procédure civile, article 238.
- Code de procédure civile, article 278.
- Code de procédure civile, article 275.
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle.
- Règlement (UE) 2026/1744 du 8 juillet 2026 modifiant le règlement (UE) 2024/1689 (omnibus numérique sur l'IA).
Rédaction : Denis Atlan Publié le Méthode éditoriale et corrections