# Assistant conversationnel ayant donné une information erronée à un client Source : https://www.sapiteur-ia.fr/contentieux/chatbot-information-erronee/ Auteur : Denis Atlan — https://www.sapiteur-ia.fr/denis-atlan/ Éditeur : ENDKOO — https://www.endkoo.fr/ Dernière révision du site : 23 septembre 2026 Carte du site pour les modèles : https://www.sapiteur-ia.fr/llms.txt --- L'essentiel Lorsqu’un assistant conversationnel donne à un client une information fausse sur un prix, une garantie ou une condition de vente, le litige relève en France du droit commun : devoir d’information précontractuel, information du consommateur, pratiques commerciales trompeuses. Aucune décision française sur ce type de litige n’a été identifiée. Au Canada, un tribunal de petites créances de Colombie-Britannique a jugé en 2024 qu’il importait peu que l’information vienne d’une page statique ou d’un chatbot. L’analyse technique établit l’authenticité et l’intégralité de la conversation, puis l’origine de l’erreur : document source faux ou périmé, mauvais passage récupéré, réponse produite sans source. Elle vérifie les garde-fous en place, les alertes antérieures et ce que l’utilisateur voyait à l’écran. L’analyse porte sur ce qui a été envoyé au modèle et ce qu’il a renvoyé, une réponse n’étant pas toujours reproductible. Depuis le 2 août 2026, l’article 50 du règlement européen impose d’informer l’utilisateur qu’il échange avec une IA ; ce n’est pas une obligation d’exactitude. ## Situation type Situation type, non tirée d’une affaire réelle Cette situation est décrite à des fins pédagogiques et ne relate aucune affaire réelle. Les décisions réellement rendues sont citées plus bas, avec leur référence. Un voyageur interroge l’assistant du site d’un transporteur sur les conditions d’annulation de son billet. L’assistant lui indique qu’un remboursement intégral est possible jusqu’à la veille du départ ; les conditions générales, accessibles par un autre lien, prévoient seulement un avoir. Le client annule, se voit refuser le remboursement et réclame la somme, captures d’écran à l’appui. Le transporteur soutient que l’assistant n’est qu’un outil d’orientation, qu’un avertissement invitait à vérifier les conditions générales et que la capture produite est incomplète. Variantes fréquentes : un assistant de banque ou d’assurance qui décrit une garantie inexistante, un assistant de vente qui annonce un prix erroné, un assistant interne qui renseigne mal un salarié sur ses droits. ## Questions techniques que le juge ou l'expert peut poser - La conversation produite est-elle authentique et complète : horodatage, identifiant de session, correspondance avec les journaux du serveur ? - Le système repose-t-il sur un modèle de langage, sur un arbre de réponses programmé, ou sur une combinaison des deux ? - Quelle version du modèle, quelles instructions système et quelles sources documentaires étaient en service à la date de l’échange ? - La réponse fausse provient-elle d’un document erroné ou périmé, d’un mauvais passage récupéré dans la base documentaire, ou a-t-elle été produite sans appui sur une source ? - Posée à nouveau dans les mêmes conditions, la question produit-elle la même réponse ? Avec quelle variabilité ? - Quels garde-fous existaient : réponses restreintes sur les prix ou les conditions, renvoi vers un conseiller, avertissements ? Où et à quel moment l’avertissement apparaissait-il ? - L’exploitant avait-il été alerté d’erreurs semblables avant l’incident : réclamations, tickets, rapports de tests ? ## Quelle compétence technique ? - IA générative : modèles de langage, génération augmentée par recherche documentaire, garde-fous, variabilité des sorties. - Informatique web : journaux applicatifs, historique des versions d’un site et de sa base documentaire. - Criminalistique numérique, si l’authenticité des captures est contestée. Intervention Denis Atlan intervient comme spécialiste en intelligence artificielle susceptible d’être sollicité en qualité de sapiteur par un expert dans le cadre d’une mission d’expertise. Dans ce type de litige, il analyse le fonctionnement de l’assistant, sa configuration, sa base documentaire, ses journaux et ce que l’utilisateur voyait à l’écran, pour établir l’origine de l’erreur et sa prévisibilité. Si l’authenticité des captures est contestée, l’intervention d’un spécialiste de la criminalistique numérique peut s’y ajouter. [Périmètre détaillé](https://www.sapiteur-ia.fr/denis-atlan/#ce-que-j-analyse) · [Demander une intervention](https://www.sapiteur-ia.fr/contact/). ## Éléments techniques à réunir - Captures et exports de la conversation, journaux serveur de la session, conditions d’utilisation affichées à la date. - Instructions système, configuration, identifiant et version du modèle, fournisseur. - Contenu de la base documentaire à la date, avec les versions des pages concernées. - Historique des modifications de l’assistant et du site, réclamations et tickets antérieurs, rapports de tests. - Contrat entre l’exploitant et le fournisseur de l’assistant : répartition des rôles, niveau de service, journalisation. ## Textes applicables - Code civil, article 1112-1 : devoir précontractuel d’information sur ce qui est déterminant pour le consentement. - Code de la consommation, article L111-1 : information précontractuelle du consommateur sur les caractéristiques essentielles, le prix et les conditions contractuelles. - Code de la consommation, article L121-2 : pratique commerciale trompeuse fondée sur des indications fausses ou de nature à induire en erreur, notamment sur le prix, les conditions de vente et les droits du consommateur. - Code de la consommation, article L121-3 : omission trompeuse : information substantielle omise, ou fournie de façon ambiguë ou à contretemps. - Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle : obligation de concevoir l’assistant de façon que les personnes sachent qu’elles interagissent avec un système d’IA (art. 50 § 1), applicable depuis le 2 août 2026 ; ce n’est pas une règle d’exactitude des réponses. - Glossary, entrées « Temperature » et « RAG » : documentation d’un fournisseur : même avec une température à 0, des entrées identiques peuvent produire des sorties différentes ; l’efficacité d’une génération augmentée dépend de la base documentaire. - API and data retention : documentation d’un fournisseur : conservation des requêtes limitée par défaut, réduite sous option de non-conservation, avec des exceptions. - Recommandations de sécurité pour un système d’IA générative (ANSSI-PA-102) : recommandation de journaliser requêtes, traitements intermédiaires, appels d’outils et réponses, pour pouvoir reconstituer un événement. Point de vigilance Ne pas écrire que le chatbot « a menti » ou « a décidé » : il produit un texte que l’exploitant publie. Et ne pas présenter l’article 50 du règlement européen comme une obligation d’exactitude : il impose d’informer l’utilisateur qu’il échange avec une IA, et seulement pour des faits postérieurs au 2 août 2026. ## Décisions rendues - Moffatt v. Air Canada, 2024 BCCRT 149 (Canada, Colombie-Britannique) (14 février 2024, tribunal des petites créances) : décision étrangère (Canada, Colombie-Britannique) d’un tribunal de petites créances, fondée sur la common law (negligent misrepresentation) : l’exploitant répond de l’information donnée par son chatbot comme de celle d’une page statique ; il n’avait rien produit sur le fonctionnement de l’outil ; 812,02 dollars canadiens au total. Sans valeur de précédent en droit français. Aucune décision française n’a été identifiée sur une réponse erronée d’un assistant conversationnel à un client. La recherche a porté sur Légifrance, qui ne publie qu’une partie des décisions des juridictions du fond. ## Limites de l'analyse technique - Les traces peuvent avoir disparu chez le fournisseur du modèle, souvent après une trentaine de jours, ou n’avoir jamais été conservées : les journaux de l’exploitant sont souvent la seule source. - Rejouer la question ne reproduit pas nécessairement la réponse d’origine, surtout si le modèle a changé ou a été retiré depuis. - Dire si l’avertissement affiché suffisait, ou qui répond de l’erreur, relève du juge. Point de vigilance La qualification juridique des faits appartient au juge et aux professionnels du droit. Cette fiche décrit les questions techniques et le cadre ; elle ne constitue pas une consultation juridique. ## Fiches liées - [Transparence (article 50) : chatbot non signalé, contenu généré non marqué](https://www.sapiteur-ia.fr/contentieux/transparence-ai-act/) - [Litige entre client et prestataire sur un projet d’intelligence artificielle](https://www.sapiteur-ia.fr/contentieux/projet-ia-contrat/) - [Agent d’IA ou automatisation ayant déclenché une action dommageable](https://www.sapiteur-ia.fr/contentieux/agent-ia-action-dommageable/) - [Références juridiques inventées par une IA et produites en justice](https://www.sapiteur-ia.fr/contentieux/references-inventees-ia/) [Tous les contentieux de l'IA et de la robotique](https://www.sapiteur-ia.fr/contentieux/) ## Sources et références - [Code civil, article 1112-1](https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000032007138). Légifrance · Source primaire · version en vigueur depuis le 1er octobre 2016 · consulté le 23 septembre 2026 - [Code de la consommation, article L111-1](https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000044142438). Légifrance · Source primaire · version en vigueur depuis le 1er octobre 2021 · consulté le 23 septembre 2026 - [Code de la consommation, article L121-2](https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000044563114). Légifrance · Source primaire · version en vigueur depuis le 28 mai 2022 · consulté le 23 septembre 2026 - [Code de la consommation, article L121-3](https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000044563111). Légifrance · Source primaire · version en vigueur depuis le 28 mai 2022 · consulté le 23 septembre 2026 - [Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle](https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:32024R1689). EUR-Lex, Office des publications de l’Union européenne · Source primaire · consulté le 23 septembre 2026 - [Glossary, entrées « Temperature » et « RAG »](https://platform.claude.com/docs/en/about-claude/glossary). Anthropic, documentation de la plateforme Claude · Source primaire · consulté le 23 septembre 2026 - [API and data retention](https://platform.claude.com/docs/en/manage-claude/api-and-data-retention). Anthropic, documentation de la plateforme Claude · Source primaire · consulté le 23 septembre 2026 - [Recommandations de sécurité pour un système d’IA générative (ANSSI-PA-102)](https://messervices.cyber.gouv.fr/guides/recommandations-de-securite-pour-un-systeme-dia-generative), recommandation R29, p. 25. ANSSI · Source institutionnelle · 29 avril 2024 · consulté le 23 septembre 2026 - [Moffatt v. Air Canada, 2024 BCCRT 149 (Canada, Colombie-Britannique)](https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html), 14 février 2024, tribunal des petites créances. Civil Resolution Tribunal, décision étrangère · Source primaire · consulté le 23 septembre 2026 Rédaction : [Denis Atlan](https://www.sapiteur-ia.fr/denis-atlan/) Publié le 23 septembre 2026 [Méthode éditoriale et corrections](https://www.sapiteur-ia.fr/methodologie-editoriale/) ## Une question technique liée à l'IA dans un dossier ? Décrivez la question en quelques lignes, sans pièce confidentielle. La qualification de l'intervention dépend de qui sollicite et dans quel cadre. [Présenter la question](https://www.sapiteur-ia.fr/contact/)