Le 22 mai 2026, la Northeastern University a publié un article au titre sans détour : ChatGPT fait face à une déferlante de poursuites. À la date de mars, au moins 11 procès avaient été intentés contre OpenAI seule, plus d’autres contre Character.AI et Google. Les théories juridiques montent en gravité rapidement — mort injustifiée, défaut de conception du produit, défaut de mise en garde. En janvier, l’affaire emblématique Setzer s’est réglée après qu’un tribunal a fait ce qu’aucun tribunal n’avait fait auparavant : il a qualifié la sortie d’un chatbot IA de « produit » plutôt que de discours protégé.
Si vous exploitez un chatbot sur votre site web, il est tentant de lire ces gros titres et de vous détendre. Ce sont des poursuites contre les laboratoires qui construisent les modèles, portant sur des cas limites tragiques impliquant de l’IA compagne. Vous, vous répondez juste à des questions de livraison. Rien de tout cela ne vous concerne.
C’est la mauvaise conclusion. Les poursuites qui font la une concernent les créateurs de modèles fondationnels et des préjudices catastrophiques. L’exposition juridique qui s’applique à votre entreprise est plus ancienne, plus discrète, et bien plus établie. Elle porte un nom que la plupart des personnes du support connaissent déjà : le précédent Air Canada.
L’affaire que tout propriétaire de chatbot d’entreprise devrait connaître par cœur
En février 2024, un tribunal canadien a tranché un litige qui paraissait anodin. Un client en deuil avait interrogé le chatbot du site web d’Air Canada sur les tarifs de deuil. Le bot lui a dit qu’il pouvait réserver maintenant et demander un remboursement dans les 90 jours. Cette politique n’existait pas. Le bot l’avait inventée.
Quand le client a demandé le remboursement, Air Canada a refusé et a fait valoir, par écrit, que le chatbot était « une entité juridique distincte, responsable de ses propres actions ». Le tribunal a catégoriquement rejeté cet argument. Sa décision contient la phrase à scotcher sur votre écran :
« Peu importe que l’information provienne d’une page statique ou d’un chatbot. »
Air Canada a été condamnée à honorer la politique inventée et à verser des dommages-intérêts ainsi que les intérêts et les frais. Le montant était faible. Le principe ne l’était pas. Un régulateur a examiné un bot qui hallucinait et a dit : c’est l’entreprise qui parle. Vous êtes lié par ce qu’il dit.
Ce principe n’a fait que se durcir depuis. Le cadrage « produit » de la transaction Setzer signifie que la sortie d’un chatbot peut être évaluée comme n’importe quel autre produit livré par une entreprise — soumise aux théories de responsabilité du fait des produits quand elle est défectueuse. Les tribunaux américains ont imposé plus de $145,000 de sanctions liées à des hallucinations d’IA au premier trimestre 2026, dont une pénalité record de $110,000 dans l’Oregon et une première suspension de licence professionnelle dans le Nebraska. Les poursuites qui font les gros titres pourraient prendre des années et ne pas remodeler le secteur, comme l’a mis en garde John Wihbey de Northeastern — prouver qu’une technologie spécifique a nui à une personne spécifique est difficile. Mais le précédent Air Canada n’a besoin d’aucune théorie juridique novatrice. Il fonctionne déjà, dans les tribunaux des petites créances et les plaintes de protection des consommateurs, aujourd’hui.
Cet article porte sur cette exposition du quotidien, pas sur le contentieux qui fait les gros titres. Rien ici n’est un conseil juridique — parlez à un avocat de votre situation. L’objectif ici est plus étroit et plus utile : comprendre exactement comment un chatbot de site web crée de la responsabilité, et quels contrôles la réduisent réellement.
Les sept façons dont un bot de support vous fait poursuivre
« Hallucination » est un seul mot pour au moins sept modes de défaillance distincts, et chacun porte un type de risque commercial différent. Un bot qui invente une fenêtre de remboursement est un problème différent d’un bot qui fabrique une consigne de sécurité.
| Type d’hallucination | Ce que fait le bot | Responsabilité créée |
|---|---|---|
| Politique | Invente une condition de retour, de remboursement ou de garantie | Vous pouvez être tenu de l’honorer (le précédent Air Canada) |
| Tarification | Cite un prix, une remise ou des frais qui n’existent pas | Exposition liée à la tarification trompeuse et à la protection des consommateurs |
| Spécifique au compte | Affirme un fait erroné sur la commande ou le solde de ce client | Rupture de contrat, fausse déclaration |
| Action | Affirme avoir fait quelque chose (« votre commande est annulée ») qui ne s’est pas produit | Défaut de livraison ; dommages liés à la confiance |
| Citation | Cite une source, une loi ou un document qui n’existe pas | Sanctions en contexte réglementé ; perte de confiance |
| Capacité | Promet quelque chose que le produit ne peut pas faire | Publicité mensongère |
| Sécurité | Donne une instruction erronée aux conséquences physiques | Négligence, responsabilité du fait des produits, le niveau le plus grave |
Le fil conducteur : la loi ne se préoccupe pas de savoir si une IA a généré la déclaration. La FTC et les lois de protection des consommateurs des États interdisent les pratiques déloyales ou trompeuses, qu’un humain ou un modèle les ait produites. Comme le résume une analyse de responsabilité, si votre IA agit comme un agent de votre entreprise, vous êtes responsable de ce qu’elle communique.
Pourquoi un LLM brut est une machine à responsabilité
Voici le fait technique inconfortable derrière tout cela. Un grand modèle de langage est optimisé pour produire un texte fluide, plausible et assuré. Il n’est pas optimisé pour produire un texte vrai. Ces deux objectifs se recoupent la plupart du temps, ce qui est exactement ce qui rend les défaillances dangereuses — la mauvaise réponse arrive avec le même ton calme et assuré que la bonne. Il n’y a aucun tremblement dans sa voix quand il invente votre politique de remboursement.
On suppose souvent que le retrieval règle ce problème. Il aide énormément, mais ce n’est pas une garantie. Une étude Stanford de 2025 sur des outils de recherche juridique reposant fortement sur le retrieval (RAG) a trouvé que le meilleur d’entre eux était correct et ancré sur seulement 65 % des requêtes ; ses concurrents atteignaient 41 % et 19 %. Ce sont des produits coûteux, conçus sur mesure, avec le modèle pointé vers un corpus soigneusement sélectionné, et ils ont quand même halluciné sur un tiers des questions. Brancher un modèle généraliste sur votre site web avec un prompt système disant « sois utile » n’appartient pas au même univers de sécurité.
La leçon n’est pas « n’utilisez pas de chatbot ». De nombreuses entreprises résolvent la majorité de leur volume de support avec de l’IA et ne rencontrent jamais de problème, parce qu’elles ont correctement contraint le bot. La leçon, c’est que la sécurité réside dans l’architecture autour du modèle, pas dans le modèle lui-même. Un chatbot n’est défendable qu’à hauteur des contrôles que vous placez entre le modèle de langage et votre client.
Les contrôles qui réduisent réellement l’exposition
Associez chaque contrôle au risque qu’il traite. C’est la partie qui compte, et c’est là que le choix de la plateforme cesse d’être cosmétique.
| Contrôle | Ce qu’il fait | Risque réduit |
|---|---|---|
| Ancrage par retrieval | Répond uniquement à partir de votre contenu d’entraînement, pas de la mémoire du modèle | Hallucinations de politique, de tarification, de capacité |
| Paires Q&R faisant autorité | Réponses exactes, rédigées à la main, prioritaires sur tout le reste | Les questions à fort enjeu que vous ne pouvez pas vous permettre de rater |
| Citation de source | Montre de quel document provient une réponse | Hallucinations de citation ; rend la revue possible |
| Actions en temps réel | Consulte les données réelles de commande ou de compte via API plutôt que de deviner | Hallucinations spécifiques au compte |
| Transfert basé sur la confiance | Achemine les intentions incertaines ou à haut risque vers un humain | Hallucinations d’action et de sécurité |
| Garde-fous de sortie | Bloque les remises inventées, les fausses URL, les affirmations non confirmées | Hallucinations de tarification et d’action |
| Journaux de conversation | Un enregistrement consultable de chaque réponse donnée par le bot | Preuves, audit, correction rapide |
Certains de ces points méritent d’être détaillés, car c’est là que la plupart des équipes sous-investissent.
L’ancrage est le plancher, pas le plafond. Entraîner votre chatbot sur votre propre site web, vos documents et votre centre d’aide fait la différence entre un bot qui répond à partir de votre réalité et un bot qui répond à partir de la moyenne d’internet. Dans Agentkit, c’est le comportement par défaut : un chatbot répond à partir du contenu sur lequel vous l’entraînez — pages explorées, PDF et documents importés, et extraits de texte. Le modèle reçoit l’instruction de travailler à partir de ce corpus plutôt que d’improviser. Pour le support à forte densité documentaire, discuter avec vos propres documents maintient les réponses ancrées dans le fichier de politique réel, pas dans une paraphrase de celui-ci.
Les paires Q&R sont votre ceinture de sécurité pour les questions qui ne peuvent pas être fausses. L’ancrage réduit l’invention mais ne l’élimine pas. Pour la poignée de questions où une mauvaise réponse équivaut à un procès — votre fenêtre de remboursement, vos conditions d’annulation, une consigne critique pour la sécurité — vous voulez une réponse codée en dur, pas une réponse générée. Les paires Q&R d’Agentkit font exactement cela : une réponse exacte, rédigée par un humain, qui prime sur toutes les autres sources. Le modèle n’a pas voix au chapitre sur la question de savoir si votre politique de retour est de 30 jours. Vous l’avez écrite noir sur blanc ; le bot la relit telle quelle. Identifiez vos dix questions à plus fort risque de responsabilité et verrouillez-les en paires Q&R avant de vous lancer.
Les actions en temps réel remplacent la supposition par la consultation. Les hallucinations spécifiques au compte — « votre commande a été expédiée hier » alors que ce n’est pas le cas — proviennent d’un bot qui répond à des questions pour lesquelles il n’a aucune donnée. La solution est de lui donner des données. Les actions API personnalisées permettent au chatbot d’appeler votre système de commandes, votre CRM ou votre inventaire en temps réel et de répondre à partir de l’enregistrement réel. Si la donnée n’est pas disponible, un bot bien conçu le dit au lieu d’inventer un statut.
Le transfert humain est un contrôle de responsabilité, pas un simple confort d’expérience utilisateur. La décision architecturale la plus importante est ce que fait le bot quand il est incertain. Un chatbot défendable escalade les réponses à faible confiance et les intentions à haut risque — remboursements, facturation, annulations, tout ce qui touche à la sécurité — vers une personne. Bien concevoir cette frontière est une discipline à part entière ; nous l’avons couverte en profondeur dans la conception du transfert humain pour l’IA. Le bot qui dit « laissez-moi contacter un collègue » face à un litige de remboursement est le bot qui n’invente jamais de politique de remboursement.
Les instructions et les garde-fous fixent les comportements par défaut du bot. Votre prompt système devrait indiquer au bot de refuser de spéculer, de ne jamais inventer de prix ou de remises, d’admettre quand il ne sait pas, et de rester strictement dans votre domaine. Une bonne ingénierie de prompt transforme « sois utile » en « sois utile, mais n’invente jamais de politique, et escalade tout ce dont tu n’es pas certain ». Associez cela à des restrictions de domaine pour que le widget ne fonctionne que sur vos propres pages, et à une limite de débit pour qu’un seul utilisateur ne puisse pas le pousser à mal se comporter, comme le chatbot de DPD, poussé en 2024 à insulter des clients dans un cas resté célèbre.
Les journaux sont votre preuve et votre système d’alerte précoce. Chaque conversation Agentkit est journalisée. Cet enregistrement remplit deux fonctions : il vous permet de revoir ce que le bot a réellement dit aux gens (et de corriger un mauvais schéma avant qu’il ne devienne une plainte), et c’est la documentation que vous voudrez si un client affirme un jour que le bot lui a promis quelque chose. Passez en revue chaque semaine le taux de réponses ancrées et les questions qui ont déclenché un transfert. Le bot qui dérive discrètement se révélera dans les journaux bien avant de se révéler devant un tribunal.
Encore un point, facile à manquer : maintenez la base de connaissances à jour. La moitié de la responsabilité vient non pas de l’invention mais du fait d’affirmer avec assurance une politique qui était vraie autrefois. Le réentraînement automatique (sur les forfaits Standard et supérieurs) réexplore votre contenu selon un calendrier pour que le bot ne cite pas la page de tarification du trimestre dernier.
Une checklist de responsabilité avant le lancement
Avant d’intégrer un chatbot sur une page où les clients prennent des décisions, parcourez cette liste :
- Est-il ancré ? Le bot répond à partir de votre contenu, pas du modèle ouvert. Vérifiez en lui demandant quelque chose qui n’est pas dans votre documentation — il devrait refuser, pas improviser.
- Les réponses à fort enjeu sont-elles verrouillées ? Remboursement, annulation, garantie, tarification, et toute consigne critique pour la sécurité sont des paires Q&R, pas du texte généré.
- Consulte-t-il au lieu de deviner ? Les questions spécifiques au compte ou à la commande interrogent une API en direct ou sont transférées — jamais répondues à partir de rien.
- Escalade-t-il en cas d’incertitude ? Les intentions à faible confiance et à haut risque sont acheminées vers un humain. Vous avez testé que cette frontière se déclenche réellement.
- Est-il cadré ? Les restrictions de domaine le limitent à votre site ; la limite de débit bloque les abus ; les instructions interdisent les prix et promesses inventés.
- Pouvez-vous le passer en revue ? Les journaux de conversation sont activés, et quelqu’un les consulte selon un rythme régulier.
- Les connaissances sont-elles à jour ? Une information obsolète énoncée avec assurance est un mode de défaillance à part entière. Le réentraînement automatique ou un calendrier de rafraîchissement manuel maintient le contenu vivant.
L’intégration est la partie facile une fois les contrôles en place :
<script src="https://cdn.agentkit.ai/widget.js" data-chatbot="your-chatbot-id" async> </script>
Une précision de périmètre : ceci concerne la responsabilité civile pour ce que votre bot dit — distincte de la vague de réglementation spécifique à l’IA qui traverse les assemblées d’État, que nous avons couverte séparément dans le guide des lois sur les chatbots 2026. Vous devez penser aux deux. Un bot peut être parfaitement conforme aux lois sur la divulgation et quand même vous lier à une politique de remboursement inventée.
Ce qu’il faut retenir
Les poursuites contre OpenAI et Character.AI seront plaidées pendant des années, et la plupart des entreprises exploitant un bot de support ne seront jamais parties à quoi que ce soit de comparable. Mais chacune de ces entreprises vit sous le précédent Air Canada : votre chatbot parle en votre nom, et vous répondez de ce qu’il dit. Ce n’est pas une raison d’éviter le support IA. Les entreprises résolvent la majorité de leur volume de support avec des chatbots et réalisent de vraies économies en le faisant — l’économie du sujet n’est pas contestée. C’est une raison de traiter le bot pour ce qu’il est légalement : un agent de votre entreprise, déployé avec le même soin que vous accorderiez à un humain.
La différence entre une responsabilité et un actif, c’est l’architecture autour du modèle. Ancrez-le dans votre contenu. Verrouillez vos réponses à fort enjeu. Transférez en cas d’incertitude. Journalisez tout. Un chatbot construit de cette façon n’évite pas seulement le tribunal — c’est celui auquel les clients font réellement confiance, parce qu’il leur dit la vérité ou leur dit qu’il ne sait pas.
Créez votre chatbot gratuitement →
Aucune carte bancaire requise.
