Aide au diagnostic par IA : erreur d'un logiciel médical
Un logiciel d'IA qui aide à lire une image ou un signal médical est souvent un dispositif médical, soumis à un régime européen propre. Après une erreur de diagnostic, il faut distinguer ce qu'a produit l'outil, l'usage qui en a été fait et ce qu'en a déduit le praticien.
Lorsqu'un outil d'IA d'aide au diagnostic est mis en cause après une erreur, deux analyses se croisent : l'expertise médicale, qui apprécie la prise en charge, et l'analyse technique de l'outil. La seconde vérifie d'abord le statut du logiciel : s'il est destiné par son fabricant à une fin diagnostique, il relève du règlement (UE) 2017/745 sur les dispositifs médicaux. Elle vérifie ensuite si l'usage était conforme à la destination et à la notice, si le patient relevait de la population sur laquelle les performances ont été établies, ce que l'outil a réellement produit et si le praticien l'a contrôlé. Le Code de la santé publique impose au professionnel de s'assurer que le patient a été informé du recours à un traitement algorithmique appris sur des données massives. Aucune décision française sur l'erreur d'un tel outil n'a été identifiée. Les obligations du règlement européen sur l'IA pour ces systèmes à haut risque ne s'appliqueront qu'à partir du 2 août 2028.
Situation type
Un centre d'imagerie utilise un logiciel qui signale sur les radiographies thoraciques les zones suspectes de nodule. Pour un patient, le logiciel ne signale rien et le radiologue conclut à un examen normal ; un cancer est diagnostiqué un an plus tard. Le patient met en cause le radiologue et le centre, et demande que le fonctionnement de l'outil soit examiné.
Le centre soutient que le logiciel n'est qu'une aide et que la décision appartenait au praticien ; le radiologue invoque un outil marqué CE dont il a suivi les indications. Questions voisines : l'examen avait-il été réalisé dans les conditions d'acquisition prévues par la notice, la version installée était-elle celle qui avait été certifiée, des erreurs semblables avaient-elles été signalées au fabricant ?
Questions techniques que le juge ou l'expert peut poser
- Le logiciel est-il un dispositif médical marqué CE ? Quelle classe, quelle destination déclarée par le fabricant, quelle version installée à la date de l'examen ?
- L'usage était-il conforme à la destination et à la notice : population, type d'examen, conditions d'acquisition ?
- Quelles performances cliniques (sensibilité, spécificité) le fabricant revendique-t-il, sur quelle population, et le patient en relevait-il ?
- La sortie de l'outil était-elle une aide (score, zone signalée) ou une conclusion ? Comment l'interface la présentait-elle, et le praticien l'a-t-il contrôlée ?
- L'erreur vient-elle du modèle, des données d'entrée (qualité de l'image, paramétrage), de l'intégration dans le système d'information de l'établissement, ou de l'interprétation humaine ?
- Le patient a-t-il été informé du recours à l'outil ?
- Des incidents semblables avaient-ils été signalés au titre de la matériovigilance ? Le fabricant avait-il publié des mises à jour ou des notes de sécurité ?
Quelle compétence technique ?
- Apprentissage automatique appliqué à l'imagerie ou au signal médical : évaluation, populations de validation, performances cliniques.
- Réglementation des logiciels dispositifs médicaux : destination, classe, marquage CE, matériovigilance.
- Informatique hospitalière : intégration, journaux applicatifs.
- Le volet médical relève d'un expert médical distinct.
Éléments techniques à réunir
- Déclaration UE de conformité, certificat de l'organisme notifié, notice, destination revendiquée, version logicielle déployée à la date.
- Données d'entrée (images, signaux) et sortie de l'outil pour le patient, journaux de l'application et du système d'information.
- Dossier médical, compte rendu, trace de la validation humaine.
- Signalements de matériovigilance, notes de sécurité du fabricant, historique des mises à jour.
Textes applicables
- Code de la santé publique, article L1142-1 : hors défaut d'un produit de santé, professionnels et établissements ne répondent des actes de diagnostic qu'en cas de faute.
- Code de la santé publique, article L4001-3 : information du patient sur le recours à un dispositif comportant un traitement algorithmique appris sur des données massives ; les concepteurs s'assurent de l'explicabilité de son fonctionnement pour les utilisateurs.
- Code de la santé publique, article L5211-1 : un logiciel à finalité médicale peut être un dispositif médical, par renvoi au règlement (UE) 2017/745.
- Règlement (UE) 2017/745 relatif aux dispositifs médicaux : définition du dispositif médical (art. 2) ; règle 11 de l'annexe VIII : classe IIa, IIb ou III pour les logiciels qui éclairent des décisions diagnostiques ou thérapeutiques, selon la gravité possible de ces décisions.
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle : un système d'IA qui est un dispositif médical, ou son composant de sécurité, soumis à une évaluation de conformité par un tiers est à haut risque (art. 6 § 1 et annexe I).
- Règlement (UE) 2026/1744 du 8 juillet 2026 modifiant le règlement (UE) 2024/1689 (omnibus numérique sur l'IA) : obligations des systèmes à haut risque relevant de l'annexe I applicables à partir du 2 août 2028.
Décisions rendues
- Conseil d'État, 9 juillet 2003, n° 220437, AP-HP (Marzouk), publié au Lebon (responsabilité sans faute du service public hospitalier pour les produits de santé défaillants) : le service public hospitalier répond, même sans faute, des conséquences de la défaillance des produits et appareils de santé qu'il utilise, sans préjudice d'un recours contre le fabricant. Il s'agissait d'un respirateur ; l'application à un logiciel d'IA n'a pas été jugée.
- Cass. 1re civ., 12 juillet 2012, n° 11-17.510, Bull. I n° 165 (praticien libéral utilisant un dispositif médical : responsabilité pour faute) : le praticien libéral qui utilise un dispositif médical n'en répond que pour faute, sauf s'il en est le producteur ; la victime conserve son action contre le producteur. Application à un logiciel non jugée.
Aucune décision française portant sur l'erreur d'un outil d'IA d'aide au diagnostic n'a été identifiée. Les deux décisions citées fixent le régime des produits de santé défaillants et opposent l'hôpital public à l'exercice libéral ; leur extension aux logiciels reste à juger.
Limites de l'analyse technique
- Le spécialiste de l'IA décrit le fonctionnement de l'outil ; il ne se prononce pas sur la faute médicale.
- Les performances revendiquées par le fabricant valent pour une population et des conditions données ; elles ne disent rien, à elles seules, d'un cas individuel.
- L'accès aux données et à la documentation du fabricant peut nécessiter sa mise en cause ou une demande de production de pièces.
Fiches liées
- Litige sur la conformité d'un système au règlement européen sur l'IA
- Décision automatisée contestée et discrimination algorithmique
- Litige entre client et prestataire sur un projet d'intelligence artificielle
Tous les contentieux de l'IA et de la robotique
Sources et références
- Code de la santé publique, article L1142-1.
- Code de la santé publique, article L4001-3.
- Code de la santé publique, article L5211-1.
- Règlement (UE) 2017/745 relatif aux dispositifs médicaux.
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle.
- Règlement (UE) 2026/1744 du 8 juillet 2026 modifiant le règlement (UE) 2024/1689 (omnibus numérique sur l'IA).
- Conseil d'État, 9 juillet 2003, n° 220437, AP-HP (Marzouk), publié au Lebon, responsabilité sans faute du service public hospitalier pour les produits de santé défaillants.
- Cass. 1re civ., 12 juillet 2012, n° 11-17.510, Bull. I n° 165, praticien libéral utilisant un dispositif médical : responsabilité pour faute.
Rédaction : Denis Atlan Publié le Méthode éditoriale et corrections