Transparence (article 50) : chatbot non signalé, contenu généré non marqué
Depuis le 2 août 2026, les personnes doivent savoir qu'elles échangent avec une IA, et les contenus de synthèse doivent être marqués. Dans un litige, la question technique est précise : l'information ou le marquage existaient-ils, à quel moment, et ont-ils survécu à la diffusion ?
L'article 50 du règlement européen sur l'IA s'applique depuis le 2 août 2026. Le fournisseur d'un assistant conversationnel doit faire en sorte que les personnes sachent qu'elles interagissent avec une IA, sauf évidence. Les fournisseurs de systèmes générant du texte, des images, du son ou de la vidéo doivent marquer ces sorties dans un format lisible par machine ; ceux dont le système était déjà sur le marché ont jusqu'au 2 décembre 2026. Le déployeur qui diffuse un hypertrucage doit indiquer qu'il a été généré ou manipulé par une IA. Dans un litige, l'analyse établit si l'information était visible et quand, si le contenu porte un marquage, quel outil l'a produit et dans quelle version. L'absence de marquage sur une copie ne prouve pas son absence à la source, et un score de détecteur n'est pas une preuve.
Situation type
Un client découvre que le « conseiller » avec lequel il a négocié par messagerie pendant plusieurs jours était un assistant automatisé, jamais présenté comme tel. Il invoque une pratique commerciale trompeuse et l'obligation de transparence.
Autres situations fréquentes : une vidéo réaliste d'une personne circule sans aucune mention de son caractère généré ; un article d'intérêt public, rédigé par une IA, est publié sans mention, et l'éditeur invoque la relecture humaine ; le fournisseur d'un outil génératif est mis en cause pour l'absence de filigrane et invoque le délai accordé aux systèmes déjà sur le marché.
Questions techniques que le juge ou l'expert peut poser
- Le système en cause est-il un modèle de langage ou un simple arbre de réponses programmé ?
- À quel moment, sous quelle forme et à quel endroit de l'interface l'information « vous échangez avec une IA » était-elle donnée ? Était-elle visible dès la première interaction, et accessible ?
- Le contenu litigieux porte-t-il un marquage lisible par machine — métadonnées de provenance, filigrane invisible — et ce marquage a-t-il survécu à la diffusion (recompression, capture d'écran, recadrage) ?
- Quel outil a produit le contenu, dans quelle version, et depuis quand est-il sur le marché ? Marquait-il ses sorties à cette date ?
- Le contenu est-il assez réaliste pour être pris à tort pour authentique ? Le contexte est-il manifestement satirique ou artistique ?
- Pour un texte publié : existe-t-il une trace de relecture humaine et de validation éditoriale ?
- Les outils de détection invoqués par les parties sont-ils fiables pour ce type de contenu ?
Quelle compétence technique ?
- Architecture des assistants conversationnels : règles ou modèle de langage.
- Techniques de marquage et de provenance, et leurs limites.
- Criminalistique des images, sons et vidéos, pour l'analyse d'une manipulation.
- Analyse d'interfaces et de parcours utilisateur.
Éléments techniques à réunir
- Captures horodatées et constats de l'interface, versions web et mobile, historique de déploiement, textes d'accueil de l'assistant.
- Fichiers originaux du contenu, et non des copies recompressées, avec leurs métadonnées complètes.
- Résultats des outils de lecture de provenance et de détection de filigrane, avec leur version.
- Documentation de l'outil générateur (politique de marquage, date de mise sur le marché) et journaux de génération s'ils existent.
- Pour un média : historique du système de publication, identité du relecteur, charte éditoriale.
Textes applicables
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle : obligations de transparence (art. 50) et définition de l'hypertrucage (art. 3, point 60) ; interdiction des hypertrucages sexuels non consentis ajoutée à l'article 5, applicable au 2 décembre 2026.
- Règlement (UE) 2026/1744 du 8 juillet 2026 modifiant le règlement (UE) 2024/1689 (omnibus numérique sur l'IA) : délai au 2 décembre 2026 pour le marquage des systèmes mis sur le marché avant le 2 août 2026.
- Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of the AI Act : lecture de l'article 50 par la Commission, non contraignante.
- Code of Practice on transparency of AI-generated content : code volontaire sur le marquage, la détection et l'étiquetage des contenus générés ; son respect est un élément de preuve, pas une présomption légale.
- Dathathri S. et al., Scalable watermarking for identifying large language model outputs : limites techniques d'un filigrane de texte : il n'existe que si le fournisseur l'applique et une réécriture l'affaiblit.
Décisions rendues
Aucune décision française publiée n'a été identifiée sur ce type de litige à la date de révision de cette fiche.
Limites de l'analyse technique
- Les plateformes suppriment souvent les métadonnées : l'absence de marquage constatée sur une copie ne prouve pas son absence à la source.
- Les détecteurs de contenus générés sont probabilistes ; leur score ne vaut pas preuve.
- Dire si l'information donnée était suffisante au regard de la loi est une appréciation juridique.
Fiches liées
- Contenus générés par IA : diffamation, hypertrucage, usurpation d'identité
- Assistant conversationnel ayant donné une information erronée à un client
- Litige sur la conformité d'un système au règlement européen sur l'IA
Tous les contentieux de l'IA et de la robotique
Sources et références
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle.
- Règlement (UE) 2026/1744 du 8 juillet 2026 modifiant le règlement (UE) 2024/1689 (omnibus numérique sur l'IA).
- Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of the AI Act, non contraignantes.
- Code of Practice on transparency of AI-generated content, code volontaire.
- Dathathri S. et al., Scalable watermarking for identifying large language model outputs.
Rédaction : Denis Atlan Publié le Méthode éditoriale et corrections