Il 22 maggio 2026, la Northeastern University ha pubblicato un pezzo dal titolo diretto: ChatGPT affronta un'ondata di cause legali. A marzo, almeno 11 cause erano state intentate contro OpenAI da sola, oltre ad altre contro Character.AI e Google. Le tesi legali si stanno inasprendo rapidamente -- morte per negligenza, difetto di progettazione del prodotto, omesso avvertimento sui rischi. A gennaio, il caso storico Setzer si è chiuso con un accordo dopo che un tribunale ha fatto qualcosa che nessun tribunale aveva mai fatto prima: ha classificato l'output di un chatbot AI come un "prodotto" invece che come discorso protetto.
Se gestisci un chatbot sul tuo sito, è allettante leggere questi titoli e rilassarti. Sono cause contro i laboratori che costruiscono i modelli, su casi limite tragici che coinvolgono AI companion. Tu rispondi solo a domande sulle spedizioni. Niente di tutto ciò ti riguarda.
È la conclusione sbagliata. Le cause che fanno notizia riguardano i produttori dei modelli fondazionali e danni catastrofici. L'esposizione legale che riguarda la tua attività è più vecchia, più silenziosa e molto più consolidata. Ha un nome che la maggior parte delle persone nel supporto già conosce: il precedente Air Canada.
Il caso che ogni proprietario di chatbot aziendale dovrebbe conoscere a memoria
Nel febbraio 2024, un tribunale canadese si è pronunciato su una controversia che sembrava banale. Un cliente in lutto aveva chiesto al chatbot del sito di Air Canada informazioni sulle tariffe per lutto. Il bot gli ha detto che poteva prenotare subito e richiedere un rimborso entro 90 giorni. Quella politica non esisteva. Il bot se l'era inventata.
Quando il cliente ha chiesto il rimborso, Air Canada ha rifiutato e ha sostenuto, per iscritto, che il chatbot era "un'entità legale separata, responsabile delle proprie azioni". Il tribunale ha respinto questa tesi senza appello. La sua sentenza è la frase da appendere sopra il monitor:
"Non fa differenza se l'informazione proviene da una pagina statica o da un chatbot."
Air Canada è stata obbligata a onorare la politica inventata e a pagare danni, interessi e spese. L'importo era piccolo. Il principio no. Un regolatore ha guardato un bot che allucinava e ha detto: è l'azienda che parla. Sei vincolato da ciò che dice.
Quel principio da allora si è solo consolidato. L'inquadramento come "prodotto" dell'accordo Setzer significa che l'output di un chatbot può essere valutato come qualsiasi altra cosa che un'azienda produce -- soggetto a teorie di responsabilità del prodotto quando è difettoso. I tribunali statunitensi hanno imposto oltre $145,000 in sanzioni per allucinazioni AI nel primo trimestre 2026, inclusa una sanzione record di $110,000 in Oregon e la prima sospensione di una licenza professionale del suo genere in Nebraska. Le cause da prima pagina potrebbero richiedere anni e potrebbero non ridisegnare il settore, come ha avvertito John Wihbey della Northeastern -- dimostrare che una tecnologia specifica ha danneggiato una persona specifica è difficile. Ma il precedente Air Canada non richiede nessuna teoria legale innovativa. Funziona già, nei tribunali per le piccole controversie e nei reclami per la tutela dei consumatori, oggi.
Questo articolo parla di quell'esposizione quotidiana, non del contenzioso da prima pagina. Nulla di ciò che segue è consulenza legale -- parla con un avvocato della tua situazione. L'obiettivo qui è più circoscritto e più utile: capire esattamente come un chatbot sul sito web crea responsabilità, e quali controlli riducono davvero quel rischio.
I sette modi in cui un bot di supporto ti espone a una causa
"Allucinazione" è una singola parola per almeno sette modalità di fallimento distinte, e ciascuno comporta un tipo diverso di rischio aziendale. Un bot che inventa una finestra di rimborso è un problema diverso da uno che fabbrica un'istruzione di sicurezza.
| Tipo di allucinazione | Cosa fa il bot | Responsabilità che crea |
|---|---|---|
| Policy | Inventa una condizione di reso, rimborso o garanzia | Potresti essere vincolato a onorarla (il precedente Air Canada) |
| Prezzo | Cita un prezzo, uno sconto o una tariffa che non esiste | Esposizione per prezzi ingannevoli e tutela dei consumatori |
| Specifico dell'account | Afferma un fatto errato sull'ordine o sul saldo di questo cliente | Inadempimento contrattuale, dichiarazioni ingannevoli |
| Azione | Afferma di aver fatto qualcosa ("il tuo ordine è stato annullato") che non è avvenuto | Mancata consegna; danni per affidamento |
| Citazione | Cita una fonte, una legge o un documento che non esiste | Sanzioni in contesti regolamentati; perdita di fiducia |
| Capacità | Promette qualcosa che il prodotto non può fare | Pubblicità ingannevole |
| Sicurezza | Fornisce un'istruzione sbagliata con conseguenze fisiche | Negligenza, responsabilità del prodotto, il livello più grave |
Il filo conduttore: alla legge non importa che sia stata un'AI a generare la dichiarazione. La FTC e le leggi statali sulla tutela dei consumatori vietano pratiche sleali o ingannevoli indipendentemente dal fatto che a produrle sia stato un umano o un modello. Come ha affermato un'analisi sulla responsabilità, se la tua AI agisce come agente della tua azienda, sei responsabile di ciò che comunica.
Perché un LLM grezzo è una macchina che genera responsabilità
Ecco il fatto tecnico scomodo dietro tutto questo. Un grande modello linguistico è ottimizzato per produrre testo fluido, plausibile, sicuro di sé. Non è ottimizzato per produrre testo vero. Questi due obiettivi coincidono la maggior parte delle volte, il che è esattamente ciò che rende pericolosi i fallimenti -- la risposta sbagliata arriva con lo stesso tono calmo e autorevole di quella giusta. Non c'è alcun tremore nella sua voce quando inventa la tua politica di rimborso.
Le persone danno per scontato che il retrieval risolva il problema. Aiuta enormemente, ma non è una garanzia. Uno studio Stanford del 2025 su strumenti di ricerca legale ad alta intensità di retrieval ha scoperto che il migliore era corretto e grounded solo nel 65% delle query; i concorrenti si fermavano al 41% e al 19%. Sono prodotti costosi e costruiti su misura, con il modello puntato su un corpus curato, eppure hanno comunque allucinato su un terzo delle domande. Innestare un modello generico sul tuo sito con un prompt di sistema che dice "sii utile" non appartiene allo stesso universo di sicurezza.
La lezione non è "non usare un chatbot". Molte aziende risolvono la maggior parte del loro volume di supporto con l'AI e non affrontano mai un problema, perché hanno vincolato il bot correttamente. La lezione è che la sicurezza vive nell'architettura attorno al modello, non nel modello stesso. Un chatbot è difendibile solo quanto i controlli che metti tra il modello linguistico e il tuo cliente.
I controlli che riducono davvero l'esposizione
Mappa ogni controllo sul rischio che affronta. Questa è la parte che conta, ed è dove la scelta della piattaforma smette di essere cosmetica.
| Controllo | Cosa fa | Rischio che riduce |
|---|---|---|
| Grounding tramite retrieval | Risponde solo in base ai tuoi contenuti di addestramento, non alla memoria del modello | Allucinazioni di policy, prezzo, capacità |
| Coppie di domande e risposte autorevoli | Risposte esatte, scritte a mano, che sovrastano tutto il resto | Le domande ad alto rischio che non puoi sbagliare |
| Citazione delle fonti | Mostra da quale documento proviene una risposta | Allucinazioni di citazione; rende possibile la revisione |
| Azioni in tempo reale | Consulta i dati live dell'ordine/account tramite API invece di indovinare | Allucinazioni specifiche dell'account |
| Escalation basata sulla confidenza | Instrada intenti incerti o ad alto rischio a un operatore umano | Allucinazioni di azione e sicurezza |
| Guardrail sull'output | Blocca sconti inventati, URL falsi, affermazioni non confermate | Allucinazioni di prezzo e azione |
| Log delle conversazioni | Un registro verificabile di ogni risposta data dal bot | Prove, audit, correzione rapida |
Alcuni di questi meritano un approfondimento, perché sono i punti in cui la maggior parte dei team sotto-investe.
Il grounding è il minimo indispensabile, non il traguardo. Addestrare il tuo chatbot sul tuo sito, sui tuoi documenti e sul tuo centro assistenza è la differenza tra un bot che risponde in base alla tua realtà e uno che risponde in base alla media di internet. In Agentkit, questo è il comportamento predefinito: un chatbot risponde in base ai contenuti su cui lo addestri -- pagine scansionate, PDF e documenti caricati e snippet di testo. Il modello è istruito a lavorare a partire da quel corpus invece di improvvisare. Per il supporto ad alta densità di documenti, chattare con i tuoi documenti mantiene le risposte ancorate al file di policy reale, non a una sua parafrasi.
Le coppie di domande e risposte sono la tua cintura di sicurezza per le domande su cui non puoi sbagliare. Il grounding riduce l'invenzione ma non la elimina. Per la manciata di domande in cui una risposta sbagliata è una causa legale -- la tua finestra di rimborso, le tue condizioni di cancellazione, un'istruzione critica per la sicurezza -- vuoi una risposta codificata a mano, non generata. Le coppie di domande e risposte di Agentkit fanno esattamente questo: una risposta esatta, scritta da una persona, che ha priorità su ogni altra fonte. Il modello non ha voce in capitolo sul fatto che la tua politica di reso sia di 30 giorni. L'hai scritto tu; il bot lo ripete. Identifica le tue dieci domande a maggior rischio di responsabilità e bloccale come coppie di domande e risposte prima del lancio.
Le azioni in tempo reale sostituiscono l'indovinare con il consultare. Le allucinazioni specifiche dell'account -- "il tuo ordine è stato spedito ieri" quando non è vero -- nascono da un bot che risponde a domande per cui non ha dati. La soluzione è dargli dati. Le azioni API personalizzate permettono al chatbot di chiamare il tuo sistema d'ordini, il CRM o l'inventario in tempo reale e rispondere in base al record reale. Se il dato non è disponibile, un bot ben costruito lo dice invece di inventare uno stato.
Il passaggio a un operatore umano è un controllo di responsabilità, non una comodità UX. La decisione architetturale più importante in assoluto è cosa fa il bot quando è incerto. Un chatbot difendibile fa l'escalation delle risposte a bassa confidenza e degli intenti ad alto rischio -- rimborsi, fatturazione, cancellazioni, qualsiasi cosa adiacente alla sicurezza -- verso una persona. Progettare bene quel confine è una disciplina a sé; l'abbiamo trattata in profondità in Progettare il passaggio a un operatore umano. Il bot che dice "fammi coinvolgere un collega" su una contestazione di rimborso è il bot che non inventa mai una politica di rimborso.
Istruzioni e guardrail impostano i comportamenti predefiniti del bot. Il tuo prompt di sistema dovrebbe dire al bot di rifiutarsi di speculare, di non inventare mai prezzi o sconti, di ammettere quando non sa e di restare rigorosamente nel tuo ambito. Un buon prompt engineering trasforma "sii utile" in "sii utile, ma non inventare mai una policy, e fai l'escalation di tutto ciò di cui non sei certo". Abbina questo a restrizioni di dominio così il widget funziona solo sulle tue pagine, e a un limite di frequenza così un singolo utente non possa provocarlo fino a farlo comportare male, nel modo in cui il chatbot di DPD fu notoriamente indotto a insultare i clienti nel 2024.
I log sono la tua prova e il tuo sistema di allerta precoce. Ogni conversazione Agentkit viene registrata. Quel registro svolge due funzioni: ti permette di rivedere cosa ha effettivamente detto il bot alle persone (e correggere un pattern sbagliato prima che diventi un reclamo), ed è la documentazione che vorrai avere se un cliente sostiene mai che il bot abbia promesso qualcosa. Rivedi settimanalmente il tasso di risposte grounded e le domande che hanno innescato l'escalation. Il bot che sta lentamente andando alla deriva comparirà nei log molto prima che compaia in un tribunale.
Un'altra cosa, facile da perdere: mantieni aggiornata la base di conoscenza. Metà della responsabilità non nasce dall'invenzione ma dall'affermare con sicurezza una policy che un tempo era vera. Il riaddestramento automatico (sui piani Standard e superiori) sottopone a nuova scansione i tuoi contenuti secondo una pianificazione, così il bot non cita la pagina prezzi del trimestre scorso.
Una checklist di responsabilità pre-lancio
Prima di incorporare un chatbot su una pagina dove i clienti prendono decisioni, ripercorri questo elenco:
- È grounded? Il bot risponde in base ai tuoi contenuti, non al modello aperto. Verifica chiedendogli qualcosa non presente nella tua documentazione -- dovrebbe rifiutarsi, non improvvisare.
- Le risposte ad alto rischio sono bloccate? Rimborso, cancellazione, garanzia, prezzi e qualsiasi istruzione critica per la sicurezza sono coppie di domande e risposte, non testo generato.
- Consulta invece di indovinare? Le domande specifiche di account e ordine raggiungono un'API live oppure vengono passate a un operatore -- mai risposte dal nulla.
- Fa l'escalation quando è incerto? Gli intenti a bassa confidenza e ad alto rischio vengono instradati a un operatore umano. Hai verificato che il confine scatti davvero.
- È circoscritto? Le restrizioni di dominio lo limitano al tuo sito; il limite di frequenza blocca gli abusi; le istruzioni vietano prezzi e promesse inventati.
- Puoi rivederlo? I log delle conversazioni sono attivi, e qualcuno li controlla con una cadenza regolare.
- La conoscenza è aggiornata? Sicuro di sé ma superato è a sua volta una modalità di fallimento. Il riaddestramento automatico o una pianificazione di aggiornamento manuale mantengono i contenuti aggiornati.
Incorporarlo è la parte facile una volta che i controlli sono a posto:
<script src="https://cdn.agentkit.ai/widget.js" data-chatbot="your-chatbot-id" async> </script>
Una nota sull'ambito: questo articolo riguarda la responsabilità civile per ciò che il tuo bot dice -- distinta dall'ondata di regolamentazione specifica per l'AI che sta attraversando i parlamenti statali, di cui ci siamo occupati separatamente nella guida alle leggi sui chatbot 2026. Devi pensare a entrambe. Un bot può essere pienamente conforme alle leggi sulla trasparenza e comunque vincolarti a una politica di rimborso inventata.
Il messaggio da portare a casa
Le cause contro OpenAI e Character.AI saranno oggetto di contenzioso per anni, e la maggior parte delle aziende che gestisce un bot di supporto non sarà mai parte in causa in nulla di simile. Ma ognuna di quelle aziende vive sotto il precedente Air Canada: il tuo chatbot parla per te, e di ciò che dice rispondi tu. Non è un motivo per evitare il supporto AI. Le aziende stanno risolvendo la maggior parte del loro volume di supporto con i chatbot e risparmiando denaro reale nel farlo -- l'economia non è in discussione. È un motivo per trattare il bot per quello che legalmente è: un agente della tua azienda, implementato con la stessa cura che daresti a un operatore umano.
La differenza tra una responsabilità e un asset è l'architettura attorno al modello. Fondalo sui tuoi contenuti. Blocca le tue risposte ad alto rischio. Fai l'escalation quando è incerto. Registra tutto. Un chatbot costruito così non evita solo l'aula di tribunale -- è quello di cui i clienti si fidano davvero, perché dice loro la verità o dice loro che non lo sa.
Nessuna carta di credito richiesta.
