Litige sur la conformité d'un système au règlement européen sur l'IA
Le règlement européen sur l'intelligence artificielle entre dans les contrats et les litiges. Savoir si un logiciel est un « système d'IA », ce qu'il fait réellement et ce que montre sa documentation sont des questions de fait, sur lesquelles le juge peut avoir besoin d'un technicien.
Un litige sur la conformité au règlement européen sur l'IA pose d'abord des questions de fait : le logiciel infère-t-il ses sorties à partir de données, ou applique-t-il des règles écrites par des personnes ? Quelle est sa destination réelle, produit-il un score sur des personnes, quelle incidence ce score a-t-il sur la décision, sa documentation couvre-t-elle ce que le règlement exige ? La date des faits est décisive : après le report décidé par le règlement omnibus de juillet 2026, les obligations des systèmes à haut risque ne s'appliquent qu'à partir du 2 décembre 2027 ou du 2 août 2028. Avant ces dates, une promesse contractuelle de « conformité » s'apprécie comme un engagement du contrat, pas comme une obligation légale en vigueur. L'expert établit des constats ; qualifier un système de « système d'IA », de « haut risque » ou de « conforme » appartient au juge.
Situation type
Un éditeur vend à une PME un logiciel de tri de candidatures présenté comme « conforme à l'AI Act ». Quelques mois plus tard, la PME constate que le logiciel attribue à chaque candidat un score appris sur des données dont elle ignore l'origine, et que les candidatures sous un certain seuil ne sont jamais lues par un recruteur. Elle demande la résolution du contrat, en invoquant un manquement à l'obligation d'information et une conformité promise qui n'existerait pas.
L'éditeur répond que le score n'est qu'une aide à la décision et que son outil relève de la dérogation prévue pour les tâches préparatoires. Variantes fréquentes : un intégrateur qui a ré-entraîné un modèle ou changé sa destination est-il devenu « fournisseur » ? Une documentation technique remise au client suffit-elle à établir ce que le système fait ?
Questions techniques que le juge ou l'expert peut poser
- Le logiciel déduit-il ses sorties à partir de données (modèle entraîné, paramètres appris), ou applique-t-il des règles entièrement écrites par des personnes ? Qu'en montrent le code, les fichiers de modèle et la chaîne de traitement ?
- Quelle est la destination du système selon la notice, la publicité, le contrat et la documentation ? Correspond-elle à l'usage réellement observé ?
- Le système produit-il un score, un classement ou un profil de personnes physiques ?
- Quelle est l'incidence réelle de la sortie sur la décision finale : taux de suivi des recommandations, possibilité et fréquence effectives de s'en écarter ?
- Quelles modifications ont été apportées depuis la mise sur le marché (versions, ré-entraînements, données) ? Étaient-elles prévues dès l'origine ?
- La documentation remise couvre-t-elle les rubriques attendues : données, mesures d'exactitude, tests, gestion des risques, contrôle humain, journaux ?
- Les performances annoncées se retrouvent-elles sur un jeu de test représentatif ?
- Des journaux existent-ils, et permettent-ils de reconstituer une décision donnée ?
Quelle compétence technique ?
- Apprentissage automatique : évaluation d'un modèle, métriques, biais, reproductibilité.
- Génie logiciel : lecture de code, architecture, gestion des versions.
- Données : provenance, qualité, représentativité.
- Selon le cas, connaissance du secteur (recrutement, crédit, dispositif médical) et sécurité informatique.
Éléments techniques à réunir
- Contrat, cahier des charges, documentation commerciale, notice d'utilisation, déclaration de conformité s'il en existe une.
- Documentation technique du système, ou ce qui en tient lieu, et, le cas échéant, l'évaluation écrite par laquelle le fournisseur a estimé que son système n'était pas à haut risque.
- Code source ou accès en séquestre, fichiers de modèle, historique des versions, jeux de données ou leurs fiches descriptives.
- Journaux d'exécution, configuration de production, traces des ré-entraînements.
- Accords écrits avec les fournisseurs de composants ou de modèles intégrés.
Textes applicables
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle : définition du système d'IA (art. 3, point 1), rôles de fournisseur et de déployeur (art. 3), classification à haut risque (art. 6, annexes I et III), documentation technique (art. 11 et annexe IV), requalification en fournisseur (art. 25).
- Règlement (UE) 2026/1744 du 8 juillet 2026 modifiant le règlement (UE) 2024/1689 (omnibus numérique sur l'IA) : report des règles de classification et des obligations des systèmes à haut risque au 2 décembre 2027 (annexe III) ou au 2 août 2028 (annexe I) ; les machines passent dans la section B de l'annexe I.
- Guidelines on the definition of an artificial intelligence system established by Regulation (EU) 2024/1689 : lecture de la définition du système d'IA par la Commission, non contraignante.
- Draft Commission guidelines on the classification of high-risk AI systems : projet de lignes directrices sur la classification, non définitif.
- Code de procédure civile, article 238 : le technicien ne porte pas d'appréciation d'ordre juridique : il établit des faits, le juge qualifie.
Décisions rendues
- Conseil d'État, 30 janvier 2026, n° 506370, commune de Nice (traitement algorithmique de vidéosurveillance ; qualification AI Act sans effet sur la base légale nationale) : seule décision française identifiée citant le règlement ; elle ne l'applique pas, mais relève que la qualification au regard du règlement ne dispense pas d'une base légale nationale pour un traitement algorithmique.
Aucune sanction prononcée sur le fondement du règlement n'a été identifiée dans une source officielle au 23 septembre 2026. En France, aucune autorité de surveillance du marché n'est encore désignée par la loi ; le projet de loi d'adaptation au droit de l'Union, adopté par le Sénat en février 2026, répartit ce contrôle entre la CNIL, l'Arcom et la DGCCRF.
Limites de l'analyse technique
- L'expert constate ce que fait le système ; dire qu'il est « à haut risque » ou « conforme » est une qualification juridique.
- Le code et les données peuvent être couverts par le secret des affaires : leur examen suppose des mesures de confidentialité compatibles avec le contradictoire.
- Les lignes directrices de la Commission ne sont pas contraignantes, et celles sur la classification n'étaient qu'un projet au 23 septembre 2026.
Fiches liées
- Obligation de maîtrise de l'IA (article 4) : les litiges
- Transparence (article 50) : chatbot non signalé, contenu généré non marqué
- Décision automatisée contestée et discrimination algorithmique
- Litige entre client et prestataire sur un projet d'intelligence artificielle
Tous les contentieux de l'IA et de la robotique
Sources et références
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle.
- Règlement (UE) 2026/1744 du 8 juillet 2026 modifiant le règlement (UE) 2024/1689 (omnibus numérique sur l'IA).
- Guidelines on the definition of an artificial intelligence system established by Regulation (EU) 2024/1689, non contraignantes.
- Draft Commission guidelines on the classification of high-risk AI systems, projet, version finale non publiée au 23 septembre 2026.
- Code de procédure civile, article 238.
- Conseil d'État, 30 janvier 2026, n° 506370, commune de Nice, traitement algorithmique de vidéosurveillance ; qualification AI Act sans effet sur la base légale nationale.
Rédaction : Denis Atlan Publié le Méthode éditoriale et corrections