# Contenus générés par IA : diffamation, hypertrucage, usurpation d’identité Source : https://www.sapiteur-ia.fr/contentieux/contenus-generes-deepfake/ Auteur : Denis Atlan — https://www.sapiteur-ia.fr/denis-atlan/ Éditeur : ENDKOO — https://www.endkoo.fr/ Dernière révision du site : 23 septembre 2026 Carte du site pour les modèles : https://www.sapiteur-ia.fr/llms.txt --- L'essentiel Un contenu généré par IA peut porter atteinte à une personne de plusieurs manières : montage réaliste de son image ou de sa voix, contenu sexuel fabriqué, usurpation de son identité, texte diffamatoire produit par un assistant conversationnel. Depuis la loi du 21 mai 2024, le Code pénal assimile au montage le contenu visuel ou sonore généré par un traitement algorithmique sans le consentement de la personne, et réprime spécialement les contenus sexuels générés. Depuis le 2 août 2026, le règlement européen sur l’IA impose en outre le marquage des sorties de synthèse et l’indication des hypertrucages. L’analyse technique cherche si le fichier est généré ou modifié, avec quelle certitude, s’il porte un marquage de provenance, s’il existe une source d’origine, et qui l’a généré puis diffusé. Les détecteurs donnent des scores probabilistes, et l’absence de filigrane ne prouve rien. Pour un texte, la réponse d’un modèle n’est pas reproductible à coup sûr. La prescription de trois mois en matière de diffamation impose d’agir vite. ## Situation type Situation type, non tirée d’une affaire réelle Cette situation est décrite à des fins pédagogiques et ne relate aucune affaire réelle. Les décisions réellement rendues sont citées plus bas, avec leur référence. Une vidéo circule sur un réseau social : on y voit la dirigeante d’une entreprise locale tenir des propos injurieux envers ses salariés. Elle affirme n’avoir jamais prononcé ces paroles. La vidéo, visiblement recadrée et recompressée, a été partagée des milliers de fois ; un compte anonyme en serait à l’origine. Elle porte plainte et demande que l’origine du fichier soit établie. Autres situations : un message vocal imitant la voix d’un dirigeant, utilisé pour obtenir un virement ; un assistant conversationnel qui, interrogé sur une personne, lui attribue une condamnation imaginaire, que l’utilisateur publie ensuite ; un faux profil utilisant des photographies générées d’une personne réelle. ## Questions techniques que le juge ou l'expert peut poser - Le fichier (image, vidéo, audio) est-il généré ou modifié par un outil d’IA, en tout ou en partie ? Avec quel degré de certitude, et par quelles méthodes ? - Porte-t-il un marquage de provenance, métadonnées ou filigrane invisible ? A-t-il pu être retiré par une recompression ou une capture d’écran ? - Quel outil est le plus probablement à l’origine du contenu ? L’attribution est-elle techniquement établie, ou seulement présumée ? - Existe-t-il une image, une vidéo ou un enregistrement d’origine à partir duquel le contenu a été fabriqué ? - Au moment de la diffusion, le contenu indiquait-il qu’il était généré (mention, filigrane visible, contexte) ? Cette indication a-t-elle disparu au fil des partages ? - Qui a généré et qui a diffusé : journaux du compte, adresses IP, historique des requêtes sur le service, horodatage ? - Pour un texte produit par un assistant conversationnel : la sortie est-elle reproductible avec la même requête, quelle version du modèle était en cause, la requête a-t-elle orienté la réponse ? ## Quelle compétence technique ? - Criminalistique des images, sons et vidéos : analyse de manipulation, comparaison avec des échantillons de référence. - Modèles génératifs d’images, de voix et de texte ; détecteurs de contenus générés et leurs taux d’erreur. - Normes de provenance et filigranes. - Pour les textes : fonctionnement et variabilité des modèles de langage. Intervention Denis Atlan intervient comme spécialiste en intelligence artificielle susceptible d’être sollicité en qualité de sapiteur par un expert dans le cadre d’une mission d’expertise. Dans ce type de litige, il peut analyser les textes générés et les assistants conversationnels : reconstituer la requête, la version du modèle et la sortie, apprécier la variabilité des réponses, et expliquer le fonctionnement des outils génératifs et les limites des détecteurs. L’analyse criminalistique d’une image, d’un son ou d’une vidéo relève d’un spécialiste de ces supports. [Périmètre détaillé](https://www.sapiteur-ia.fr/denis-atlan/#ce-que-j-analyse) · [Demander une intervention](https://www.sapiteur-ia.fr/contact/). ## Éléments techniques à réunir - Fichier original, et non une copie issue d’un réseau social, avec son empreinte calculée dès la saisie. - Métadonnées complètes, dont les éventuelles données de provenance. - Adresses de publication, captures horodatées et constat de commissaire de justice sur la diffusion. - Réponses des plateformes aux réquisitions : journaux, comptes, adresses IP. - Historique des requêtes et des sorties chez le fournisseur de l’outil, s’il est conservé. - Échantillons de référence de la personne (voix, visage) pour comparaison. ## Textes applicables - Code pénal, article 226-8 : montage réalisé avec l’image ou les paroles d’une personne sans son consentement, étendu en 2024 au contenu visuel ou sonore généré par un traitement algorithmique, sauf s’il est évident ou signalé qu’il est généré. - Code pénal, article 226-8-1 : montage ou contenu généré à caractère sexuel reproduisant l’image ou les paroles d’une personne sans son consentement. - Code pénal, article 226-4-1 : usurpation de l’identité d’un tiers ou usage de données permettant de l’identifier, y compris en ligne. - Loi du 29 juillet 1881 sur la liberté de la presse, article 29 : définition de la diffamation, punissable même sous forme dubitative ou si la personne est seulement identifiable. - Loi du 29 juillet 1881 sur la liberté de la presse, article 65 : prescription de trois mois de l’action en diffamation. - Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle : marquage des sorties de synthèse par le fournisseur et indication des hypertrucages par le déployeur (art. 50 § 2 et 4), applicables depuis le 2 août 2026, avec un délai au 2 décembre 2026 pour le marquage des systèmes déjà sur le marché ; définition de l’hypertrucage (art. 3, point 60). - C2PA Specifications 2.2, Explainer : norme de provenance : les métadonnées peuvent être retirées d’un fichier et ne disent pas si le contenu est « vrai ». Point de vigilance Ne pas conclure sur la foi d’un seul détecteur : son score est une probabilité, avec des faux positifs et des faux négatifs, qui dépend de la compression et du recadrage. Et ne pas écrire que l’IA « a diffamé » : décrire qui a formulé la requête, ce que le modèle a produit et qui a publié. ## Décisions rendues - Procureure de la République de Paris, communiqué sur la plateforme de deepfakes « CFake » (poursuites devant la 13e chambre du tribunal correctionnel) : communiqué du parquet annonçant les poursuites engagées devant le tribunal correctionnel de Paris contre l’administrateur d’une plateforme d’hypertrucages, notamment pour complicité de diffusion de montages à caractère sexuel (art. 226-8-1). Ce n’est pas le jugement, qui n’a pas été lu. Le jugement rendu dans cette affaire, ainsi que d’autres décisions françaises ou étrangères, sont signalés par la presse spécialisée ; ils seront cités une fois lus à leur source. Aucune décision française n’a été identifiée sur une diffamation par un contenu généré par IA. ## Limites de l'analyse technique - L’attribution d’un contenu à un outil précis est souvent une présomption, pas une certitude : le rapport doit donner le degré de certitude. - Le caractère « évident » d’un montage et l’absence de consentement sont des éléments de l’infraction : le technicien décrit ce qui est visible, le juge qualifie. - Les plateformes suppriment souvent les métadonnées : l’absence de marquage sur une copie ne prouve pas son absence à la source. Point de vigilance La qualification juridique des faits appartient au juge et aux professionnels du droit. Cette fiche décrit les questions techniques et le cadre ; elle ne constitue pas une consultation juridique. ## Fiches liées - [Transparence (article 50) : chatbot non signalé, contenu généré non marqué](https://www.sapiteur-ia.fr/contentieux/transparence-ai-act/) - [Pièce générée ou altérée par IA : contester l’authenticité d’une preuve](https://www.sapiteur-ia.fr/contentieux/preuve-generee-ia/) - [Données personnelles et outils d’IA : transmission, fuite, traitement contesté](https://www.sapiteur-ia.fr/contentieux/donnees-personnelles-ia/) - [Propriété intellectuelle et IA : entraînement sur des œuvres, sorties contrefaisantes, contenus générés](https://www.sapiteur-ia.fr/contentieux/propriete-intellectuelle-ia/) [Tous les contentieux de l'IA et de la robotique](https://www.sapiteur-ia.fr/contentieux/) ## Sources et références - [Code pénal, article 226-8](https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000049571542). Légifrance · Source primaire · version en vigueur depuis le 23 mai 2024 · consulté le 23 septembre 2026 - [Code pénal, article 226-8-1](https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000049567458). Légifrance · Source primaire · version en vigueur depuis le 23 mai 2024 · consulté le 23 septembre 2026 - [Code pénal, article 226-4-1](https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000042193593). Légifrance · Source primaire · version en vigueur depuis le 1er août 2020 · consulté le 23 septembre 2026 - [Loi du 29 juillet 1881 sur la liberté de la presse, article 29](https://www.legifrance.gouv.fr/loda/article_lc/LEGIARTI000006419790). Légifrance · Source primaire · version en vigueur depuis le 20 mai 1944 · consulté le 23 septembre 2026 - [Loi du 29 juillet 1881 sur la liberté de la presse, article 65](https://www.legifrance.gouv.fr/loda/article_lc/LEGIARTI000006419866), prescription de trois mois. Légifrance · Source primaire · version en vigueur depuis le 5 janvier 1993 · consulté le 23 septembre 2026 - [Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle](https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:32024R1689). EUR-Lex, Office des publications de l’Union européenne · Source primaire · consulté le 23 septembre 2026 - [C2PA Specifications 2.2, Explainer](https://spec.c2pa.org/specifications/specifications/2.2/explainer/Explainer.html). Coalition for Content Provenance and Authenticity · Source primaire · consulté le 23 septembre 2026 - [Procureure de la République de Paris, communiqué sur la plateforme de deepfakes « CFake »](https://www.tribunal-de-paris.justice.fr/sites/default/files/2026-06/2026-06-12%20-%20CP%20Cfake%20plateforme%20de%20deepfakes.pdf), poursuites devant la 13e chambre du tribunal correctionnel. Tribunal judiciaire de Paris · Source institutionnelle · 12 juin 2026 · consulté le 23 septembre 2026 Rédaction : [Denis Atlan](https://www.sapiteur-ia.fr/denis-atlan/) Publié le 23 septembre 2026 [Méthode éditoriale et corrections](https://www.sapiteur-ia.fr/methodologie-editoriale/) ## Une question technique liée à l'IA dans un dossier ? Décrivez la question en quelques lignes, sans pièce confidentielle. La qualification de l'intervention dépend de qui sollicite et dans quel cadre. [Présenter la question](https://www.sapiteur-ia.fr/contact/)