Assistant conversationnel ayant donné une information erronée à un client
Un assistant conversationnel répond au nom de l'entreprise qui l'exploite. Lorsqu'il donne une information fausse, la question technique est de savoir d'où vient l'erreur et si elle était prévisible ; savoir qui en répond appartient au juge.
Lorsqu'un assistant conversationnel donne à un client une information fausse sur un prix, une garantie ou une condition de vente, le litige relève en France du droit commun : devoir d'information précontractuel, information du consommateur, pratiques commerciales trompeuses. Aucune décision française sur ce type de litige n'a été identifiée. Au Canada, un tribunal de petites créances de Colombie-Britannique a jugé en 2024 qu'il importait peu que l'information vienne d'une page statique ou d'un chatbot. L'analyse technique établit l'authenticité et l'intégralité de la conversation, puis l'origine de l'erreur : document source faux ou périmé, mauvais passage récupéré, réponse produite sans source. Elle vérifie les garde-fous en place, les alertes antérieures et ce que l'utilisateur voyait à l'écran. L'analyse porte sur ce qui a été envoyé au modèle et ce qu'il a renvoyé, une réponse n'étant pas toujours reproductible. Depuis le 2 août 2026, l'article 50 du règlement européen impose d'informer l'utilisateur qu'il échange avec une IA ; ce n'est pas une obligation d'exactitude.
Situation type
Un voyageur interroge l'assistant du site d'un transporteur sur les conditions d'annulation de son billet. L'assistant lui indique qu'un remboursement intégral est possible jusqu'à la veille du départ ; les conditions générales, accessibles par un autre lien, prévoient seulement un avoir. Le client annule, se voit refuser le remboursement et réclame la somme, captures d'écran à l'appui.
Le transporteur soutient que l'assistant n'est qu'un outil d'orientation, qu'un avertissement invitait à vérifier les conditions générales et que la capture produite est incomplète. Variantes fréquentes : un assistant de banque ou d'assurance qui décrit une garantie inexistante, un assistant de vente qui annonce un prix erroné, un assistant interne qui renseigne mal un salarié sur ses droits.
Questions techniques que le juge ou l'expert peut poser
- La conversation produite est-elle authentique et complète : horodatage, identifiant de session, correspondance avec les journaux du serveur ?
- Le système repose-t-il sur un modèle de langage, sur un arbre de réponses programmé, ou sur une combinaison des deux ?
- Quelle version du modèle, quelles instructions système et quelles sources documentaires étaient en service à la date de l'échange ?
- La réponse fausse provient-elle d'un document erroné ou périmé, d'un mauvais passage récupéré dans la base documentaire, ou a-t-elle été produite sans appui sur une source ?
- Posée à nouveau dans les mêmes conditions, la question produit-elle la même réponse ? Avec quelle variabilité ?
- Quels garde-fous existaient : réponses restreintes sur les prix ou les conditions, renvoi vers un conseiller, avertissements ? Où et à quel moment l'avertissement apparaissait-il ?
- L'exploitant avait-il été alerté d'erreurs semblables avant l'incident : réclamations, tickets, rapports de tests ?
Quelle compétence technique ?
- IA générative : modèles de langage, génération augmentée par recherche documentaire, garde-fous, variabilité des sorties.
- Informatique web : journaux applicatifs, historique des versions d'un site et de sa base documentaire.
- Criminalistique numérique, si l'authenticité des captures est contestée.
Éléments techniques à réunir
- Captures et exports de la conversation, journaux serveur de la session, conditions d'utilisation affichées à la date.
- Instructions système, configuration, identifiant et version du modèle, fournisseur.
- Contenu de la base documentaire à la date, avec les versions des pages concernées.
- Historique des modifications de l'assistant et du site, réclamations et tickets antérieurs, rapports de tests.
- Contrat entre l'exploitant et le fournisseur de l'assistant : répartition des rôles, niveau de service, journalisation.
Textes applicables
- Code civil, article 1112-1 : devoir précontractuel d'information sur ce qui est déterminant pour le consentement.
- Code de la consommation, article L111-1 : information précontractuelle du consommateur sur les caractéristiques essentielles, le prix et les conditions contractuelles.
- Code de la consommation, article L121-2 : pratique commerciale trompeuse fondée sur des indications fausses ou de nature à induire en erreur, notamment sur le prix, les conditions de vente et les droits du consommateur.
- Code de la consommation, article L121-3 : omission trompeuse : information substantielle omise, ou fournie de façon ambiguë ou à contretemps.
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle : obligation de concevoir l'assistant de façon que les personnes sachent qu'elles interagissent avec un système d'IA (art. 50 § 1), applicable depuis le 2 août 2026 ; ce n'est pas une règle d'exactitude des réponses.
- Glossary, entrées « Temperature » et « RAG » : documentation d'un fournisseur : même avec une température à 0, des entrées identiques peuvent produire des sorties différentes ; l'efficacité d'une génération augmentée dépend de la base documentaire.
- API and data retention : documentation d'un fournisseur : conservation des requêtes limitée par défaut, réduite sous option de non-conservation, avec des exceptions.
- Recommandations de sécurité pour un système d'IA générative (ANSSI-PA-102) : recommandation de journaliser requêtes, traitements intermédiaires, appels d'outils et réponses, pour pouvoir reconstituer un événement.
Décisions rendues
- Moffatt v. Air Canada, 2024 BCCRT 149 (Canada, Colombie-Britannique) (14 février 2024, tribunal des petites créances) : décision étrangère (Canada, Colombie-Britannique) d'un tribunal de petites créances, fondée sur la common law (negligent misrepresentation) : l'exploitant répond de l'information donnée par son chatbot comme de celle d'une page statique ; il n'avait rien produit sur le fonctionnement de l'outil ; 812,02 dollars canadiens au total. Sans valeur de précédent en droit français.
Aucune décision française n'a été identifiée sur une réponse erronée d'un assistant conversationnel à un client. La recherche a porté sur Légifrance, qui ne publie qu'une partie des décisions des juridictions du fond.
Limites de l'analyse technique
- Les traces peuvent avoir disparu chez le fournisseur du modèle, souvent après une trentaine de jours, ou n'avoir jamais été conservées : les journaux de l'exploitant sont souvent la seule source.
- Rejouer la question ne reproduit pas nécessairement la réponse d'origine, surtout si le modèle a changé ou a été retiré depuis.
- Dire si l'avertissement affiché suffisait, ou qui répond de l'erreur, relève du juge.
Fiches liées
- Transparence (article 50) : chatbot non signalé, contenu généré non marqué
- Litige entre client et prestataire sur un projet d'intelligence artificielle
- Agent d'IA ou automatisation ayant déclenché une action dommageable
- Références juridiques inventées par une IA et produites en justice
Tous les contentieux de l'IA et de la robotique
Sources et références
- Code civil, article 1112-1.
- Code de la consommation, article L111-1.
- Code de la consommation, article L121-2.
- Code de la consommation, article L121-3.
- Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle.
- Glossary, entrées « Temperature » et « RAG ».
- API and data retention.
- Recommandations de sécurité pour un système d'IA générative (ANSSI-PA-102), recommandation R29, p. 25.
- Moffatt v. Air Canada, 2024 BCCRT 149 (Canada, Colombie-Britannique), 14 février 2024, tribunal des petites créances.
Rédaction : Denis Atlan Publié le Méthode éditoriale et corrections