Contenus générés par IA : diffamation, hypertrucage, usurpation d'identité
Les outils génératifs permettent de fabriquer l'image, la voix ou les propos d'une personne. Le Code pénal vise expressément ces contenus depuis 2024 ; la question technique est d'établir, avec un degré de certitude assumé, ce qui a été généré, par quel outil et par qui.
Un contenu généré par IA peut porter atteinte à une personne de plusieurs manières : montage réaliste de son image ou de sa voix, contenu sexuel fabriqué, usurpation de son identité, texte diffamatoire produit par un assistant conversationnel. Depuis la loi du 21 mai 2024, le Code pénal assimile au montage le contenu visuel ou sonore généré par un traitement algorithmique sans le consentement de la personne, et réprime spécialement les contenus sexuels générés. Depuis le 2 août 2026, le règlement européen sur l'IA impose en outre le marquage des sorties de synthèse et l'indication des hypertrucages. L'analyse technique cherche si le fichier est généré ou modifié, avec quelle certitude, s'il porte un marquage de provenance, s'il existe une source d'origine, et qui l'a généré puis diffusé. Les détecteurs donnent des scores probabilistes, et l'absence de filigrane ne prouve rien. Pour un texte, la réponse d'un modèle n'est pas reproductible à coup sûr. La prescription de trois mois en matière de diffamation impose d'agir vite.
Situation type
Une vidéo circule sur un réseau social : on y voit la dirigeante d'une entreprise locale tenir des propos injurieux envers ses salariés. Elle affirme n'avoir jamais prononcé ces paroles. La vidéo, visiblement recadrée et recompressée, a été partagée des milliers de fois ; un compte anonyme en serait à l'origine. Elle porte plainte et demande que l'origine du fichier soit établie.
Autres situations : un message vocal imitant la voix d'un dirigeant, utilisé pour obtenir un virement ; un assistant conversationnel qui, interrogé sur une personne, lui attribue une condamnation imaginaire, que l'utilisateur publie ensuite ; un faux profil utilisant des photographies générées d'une personne réelle.
Questions techniques que le juge ou l'expert peut poser
- Le fichier (image, vidéo, audio) est-il généré ou modifié par un outil d'IA, en tout ou en partie ? Avec quel degré de certitude, et par quelles méthodes ?
- Porte-t-il un marquage de provenance, métadonnées ou filigrane invisible ? A-t-il pu être retiré par une recompression ou une capture d'écran ?
- Quel outil est le plus probablement à l'origine du contenu ? L'attribution est-elle techniquement établie, ou seulement présumée ?
- Existe-t-il une image, une vidéo ou un enregistrement d'origine à partir duquel le contenu a été fabriqué ?
- Au moment de la diffusion, le contenu indiquait-il qu'il était généré (mention, filigrane visible, contexte) ? Cette indication a-t-elle disparu au fil des partages ?
- Qui a généré et qui a diffusé : journaux du compte, adresses IP, historique des requêtes sur le service, horodatage ?
- Pour un texte produit par un assistant conversationnel : la sortie est-elle reproductible avec la même requête, quelle version du modèle était en cause, la requête a-t-elle orienté la réponse ?
Quelle compétence technique ?
- Criminalistique des images, sons et vidéos : analyse de manipulation, comparaison avec des échantillons de référence.
- Modèles génératifs d'images, de voix et de texte ; détecteurs de contenus générés et leurs taux d'erreur.
- Normes de provenance et filigranes.
- Pour les textes : fonctionnement et variabilité des modèles de langage.
Éléments techniques à réunir
- Fichier original, et non une copie issue d'un réseau social, avec son empreinte calculée dès la saisie.
- Métadonnées complètes, dont les éventuelles données de provenance.
- Adresses de publication, captures horodatées et constat de commissaire de justice sur la diffusion.
- Réponses des plateformes aux réquisitions : journaux, comptes, adresses IP.
- Historique des requêtes et des sorties chez le fournisseur de l'outil, s'il est conservé.
- Échantillons de référence de la personne (voix, visage) pour comparaison.
Textes applicables
- Code pénal, article 226-8 : montage réalisé avec l'image ou les paroles d'une personne sans son consentement, étendu en 2024 au contenu visuel ou sonore généré par un traitement algorithmique, sauf s'il est évident ou signalé qu'il est généré.
- Code pénal, article 226-8-1 : montage ou contenu généré à caractère sexuel reproduisant l'image ou les paroles d'une personne sans son consentement.
- Code pénal, article 226-4-1 : usurpation de l'identité d'un tiers ou usage de données permettant de l'identifier, y compris en ligne.
- Loi du 29 juillet 1881 sur la liberté de la presse, article 29 : définition de la diffamation, punissable même sous forme dubitative ou si la personne est seulement identifiable.
- Loi du 29 juillet 1881 sur la liberté de la presse, article 65 : prescription de trois mois de l'action en diffamation.
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle : marquage des sorties de synthèse par le fournisseur et indication des hypertrucages par le déployeur (art. 50 § 2 et 4), applicables depuis le 2 août 2026, avec un délai au 2 décembre 2026 pour le marquage des systèmes déjà sur le marché ; définition de l'hypertrucage (art. 3, point 60).
- C2PA Specifications 2.2, Explainer : norme de provenance : les métadonnées peuvent être retirées d'un fichier et ne disent pas si le contenu est « vrai ».
Décisions rendues
- Procureure de la République de Paris, communiqué sur la plateforme de deepfakes « CFake » (poursuites devant la 13e chambre du tribunal correctionnel) : communiqué du parquet annonçant les poursuites engagées devant le tribunal correctionnel de Paris contre l'administrateur d'une plateforme d'hypertrucages, notamment pour complicité de diffusion de montages à caractère sexuel (art. 226-8-1). Ce n'est pas le jugement, qui n'a pas été lu.
Le jugement rendu dans cette affaire, ainsi que d'autres décisions françaises ou étrangères, sont signalés par la presse spécialisée ; ils seront cités une fois lus à leur source. Aucune décision française n'a été identifiée sur une diffamation par un contenu généré par IA.
Limites de l'analyse technique
- L'attribution d'un contenu à un outil précis est souvent une présomption, pas une certitude : le rapport doit donner le degré de certitude.
- Le caractère « évident » d'un montage et l'absence de consentement sont des éléments de l'infraction : le technicien décrit ce qui est visible, le juge qualifie.
- Les plateformes suppriment souvent les métadonnées : l'absence de marquage sur une copie ne prouve pas son absence à la source.
Fiches liées
- Transparence (article 50) : chatbot non signalé, contenu généré non marqué
- Pièce générée ou altérée par IA : contester l'authenticité d'une preuve
- Données personnelles et outils d'IA : transmission, fuite, traitement contesté
- Propriété intellectuelle et IA : entraînement sur des œuvres, sorties contrefaisantes, contenus générés
Tous les contentieux de l'IA et de la robotique
Sources et références
- Code pénal, article 226-8.
- Code pénal, article 226-8-1.
- Code pénal, article 226-4-1.
- Loi du 29 juillet 1881 sur la liberté de la presse, article 29.
- Loi du 29 juillet 1881 sur la liberté de la presse, article 65, prescription de trois mois.
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle.
- C2PA Specifications 2.2, Explainer.
- Procureure de la République de Paris, communiqué sur la plateforme de deepfakes « CFake », poursuites devant la 13e chambre du tribunal correctionnel.
Rédaction : Denis Atlan Publié le Méthode éditoriale et corrections