Qu'est-ce qu'un sapiteur en intelligence artificielle ?
Un sapiteur en intelligence artificielle est un spécialiste humain de l'IA dont l'expert désigné recueille l'avis lorsqu'une question relevant de ce domaine, distinct de sa propre spécialité, se pose dans son expertise. Ce n'est pas une IA qui assisterait l'expert.
Les systèmes d'intelligence artificielle entrent dans des processus métier, des contrats, des décisions et des contenus qui peuvent devenir l'objet d'un litige. L'expert désigné dans ce litige est souvent spécialiste d'autre chose : informatique de gestion, finance, construction, propriété intellectuelle. Lorsqu'un point technique propre à l'IA échappe à sa spécialité, il peut recueillir l'avis d'un spécialiste de ce domaine, dans les conditions de la procédure applicable : de sa propre initiative en matière civile, avec l'autorisation du président en matière administrative, sur désignation du juge en matière pénale. Ce spécialiste est alors sapiteur pour cette expertise. Il répond à la question posée, dans sa spécialité, et son avis est joint au rapport de l'expert, qui en reste maître. « Sapiteur IA » ne désigne ni un titre ni une certification.
Un spécialiste humain, pas une intelligence artificielle
L'expression « l'IA, nouveau sapiteur de l'expert » circule dans les colloques et chez les éditeurs de logiciels : elle désigne l'usage d'outils d'IA par l'expert pour l'aider à rédiger ou à analyser. Ce site traite de l'inverse. Le sapiteur en intelligence artificielle est une personne, compétente dans ce domaine, dont l'expert sollicite l'avis parce que le système d'IA est l'objet de la question.
Situations dans lesquelles la question se pose
Les cas ci-dessous sont des types de questions, pas des affaires. Chacun appelle une compétence différente ; aucun spécialiste ne les couvre tous.
| Système en cause | Question technique typique |
|---|---|
| Un système utilisant un modèle de langage | La réponse contestée provient-elle du modèle, des instructions qui l'encadrent ou des données qu'on lui a fournies ? |
| Une automatisation comportant une décision assistée | Quelle part de la décision revenait à l'outil, quelle part à la personne qui l'a validée ? |
| Un agent d'IA | Quelles actions l'agent pouvait-il déclencher, lesquelles a-t-il effectivement déclenchées, et sur quelle instruction ? |
| Un assistant conversationnel | Ce qui a été affiché à l'utilisateur correspond-il à ce que le système a reçu et produit ? |
| La génération automatique de documents | Un document a-t-il été produit, complété ou modifié par un outil, et à partir de quels modèles ? |
| Un score algorithmique | Quelles variables entraient dans le calcul, et le calcul appliqué était-il celui qui était documenté ? |
| Une chaîne reliant plusieurs logiciels | Où une donnée a-t-elle été transformée ou perdue entre les maillons ? |
| Une base documentaire interrogée par un modèle (RAG) | Le document cité était-il présent dans la base, et a-t-il effectivement été retrouvé ? |
| Un contenu présumé généré par IA | Quels éléments permettent de l'établir, et avec quelle fiabilité ? |
| La traçabilité d'une décision | Les journaux conservés permettent-ils de reconstituer la chronologie ? |
| L'intervention humaine dans un processus | À quelle étape un humain pouvait-il corriger, et l'a-t-il fait ? |
| Un résultat qu'on ne parvient pas à reproduire | L'écart tient-il au caractère probabiliste du modèle, à une mise à jour, ou à une différence de configuration ? |
Ces questions sont développées sur la page dans quels cas faire intervenir un spécialiste IA, et la manière d'y répondre sur la page méthodologie.
Qui peut intervenir comme sapiteur en intelligence artificielle ?
Aucun texte ne réserve ce rôle à une profession. Ce qui compte, pour l'expert qui sollicite l'avis, c'est l'adéquation entre la question posée et la compétence de la personne. Selon la question, il peut s'agir d'un spécialiste de l'IA générative et des modèles de langage, d'un ingénieur en apprentissage automatique, d'un spécialiste des données, d'un chercheur, d'un spécialiste de la sécurité des systèmes d'IA.
Quatre conditions tiennent à la fonction elle-même :
- une spécialité distincte de celle de l'expert, en matière civile ;
- une compétence démontrable sur la question précise, et pas seulement sur l'IA en général ;
- l'impartialité et l'absence de lien avec les parties, vérifiées avant d'accepter ; devant le juge administratif, le sapiteur le déclare sur l'honneur ;
- la disponibilité pour rendre l'avis dans le calendrier de l'expertise.
Denis Atlan, auteur de ce site, intervient ainsi comme spécialiste en intelligence artificielle susceptible d'être sollicité en qualité de sapiteur par un expert dans le cadre d'une mission d'expertise, sur les questions relevant de son périmètre. Le déroulement d'une intervention est décrit sur une page dédiée.
L'inscription sur une liste d'experts n'est pas exigée pour être sollicité comme sapiteur. Devant le juge administratif, le sapiteur qui n'est inscrit sur aucun tableau ni aucune liste prête serment par écrit ; en matière pénale, la personne adjointe à l'expert prête serment.
Ce que l'avis apporte à l'expert
- Une description du système en cause, de ses composants et de leurs interactions, dans des termes que l'expert et les parties peuvent discuter.
- L'identification des éléments à réunir : journaux, configurations, versions, sorties conservées, et ce qui n'existe pas ou plus.
- Des tests reproductibles et documentés, lorsque c'est possible, et la mention de ce qui ne peut pas être reproduit.
- Une réponse à la question posée, qui distingue faits établis, observations et hypothèses.
Limites du rôle
Il ne sort pas non plus de sa propre spécialité. Une question de sécurité informatique, d'extraction de données d'un support, de mathématiques des modèles ou de conformité réglementaire appelle, selon les cas, un autre spécialiste. Savoir le dire fait partie de la compétence.
Existe-t-il des sapiteurs en informatique ?
Oui, dans le même sens : tout technicien sollicité par un expert d'une autre spécialité. La nomenclature des experts judiciaires distingue d'ailleurs, dans la rubrique « Électronique et informatique », plusieurs spécialités, dont les systèmes et logiciels, la sécurité informatique, les objets connectés, et la robotique et l'intelligence artificielle (E.1.8). Un expert inscrit dans l'une peut rencontrer une question relevant d'une autre.
Sources et références
- Code de procédure civile, article 237.
- Code de procédure civile, article 238.
- Code de procédure civile, article 278.
- Code de procédure civile, article 278-1.
- Code de procédure civile, article 282.
- Code de justice administrative, article R621-2.
- Code de justice administrative, article R621-3.
- Code de procédure pénale, article 162.
- Arrêté du 5 décembre 2022 relatif à la nomenclature prévue à l'article 1er du décret n° 2004-1463, article 1er (rubrique E.1.8 « Robotique, intelligence artificielle »).
- Arrêté du 18 juin 2023 relatif à la nomenclature des tableaux d'experts des cours administratives d'appel, article 1er.
Rédaction : Denis Atlan Publié le Méthode éditoriale et corrections