2026 年 5 月 22 日，東北大學（Northeastern University）刊出一篇標題直白的報導：ChatGPT 正面臨訴訟潮。截至 3 月，光是針對 OpenAI 的訴訟就至少有 11 件，另外還有更多案件指向 Character.AI 與 Google。訴訟的法律理論正快速升級——不當致死、產品設計瑕疵、未盡警告義務。1 月，具指標意義的 Setzer 案達成和解，而在此之前，法院做了一件史無前例的事：將 AI 聊天機器人的輸出內容歸類為「產品」，而非受保護的言論。
如果你的網站上也跑著一個聊天機器人，看到這些頭條，很容易讓人放鬆警惕。畢竟那些是針對打造模型的實驗室提起的訴訟，牽涉的是陪伴型 AI 的悲劇性邊緣案例。你不過是回答一些出貨問題，這些跟你無關。
這是錯誤的結論。登上頭條的那些訴訟，談的是基礎模型製造商與災難性的傷害。真正適用於你的事業的法律風險，其實更古老、更低調，也早已有定論。做客服的人多半已經聽過它的名字：加拿大航空案的先例。
每個部署聊天機器人的企業，都該牢記的一個案例
2024 年 2 月，一個加拿大的仲裁法庭，對一起看似瑣碎的爭議做出了裁決。一位正在服喪的顧客，向加拿大航空網站上的聊天機器人詢問喪親優惠票價。機器人告訴他，可以先訂票，之後 90 天內再申請退款。這項政策根本不存在，是機器人自己編出來的。
當這位顧客申請退款時，加拿大航空拒絕受理，並以書面主張聊天機器人「是一個獨立的法律實體，須自行為其行為負責」。仲裁法庭直接駁回了這個說法。它的裁決書中有一句話，值得貼在你的螢幕上：
「資訊究竟來自靜態頁面還是聊天機器人，並無差別。」（"It makes no difference whether the information comes from a static page or a chatbot."）
加拿大航空被裁定必須兌現機器人捏造出來的政策，並支付賠償金、利息與相關費用。金額不大，但原則的重量非同小可。一位監管者看著一個產生幻覺的機器人，做出了這樣的宣告：這就是公司本身在發言，你必須為它說的話負責。
這項原則後來只有變得更加穩固。Setzer 案和解時所採用的「產品」框架，意味著聊天機器人的輸出內容，可以像公司出貨的任何其他東西一樣被檢視——一旦有瑕疵，就可能適用產品責任理論。2026 年第一季，美國法院針對 AI 幻覺開出了超過 $145,000 的裁罰，其中包括奧勒岡州創紀錄的 $110,000 罰款，以及內布拉斯加州首見的專業執照暫停處分。誠如東北大學的 John Wihbey 所提醒，那些登上頭條的訴訟可能需要數年才能定案，也未必會重塑整個產業——要證明某項特定技術傷害了某個特定的人，本來就很困難。但加拿大航空案的先例，不需要任何新穎的法律理論就能成立，它今天就已經在小額訴訟法庭與消費者保護申訴中發揮作用。
本文談的是這種日常性的曝險，而不是那些登上頭條的訴訟。這篇文章的內容都不構成法律意見——你的具體情況，請諮詢律師。這裡的目標更聚焦、也更實用：確切了解網站聊天機器人是如何產生法律責任的，以及哪些控管措施真正能降低這種風險。
客服機器人讓你被告的七種方式
「幻覺」這個詞，其實涵蓋了至少七種不同的失敗模式，每一種都帶著不同性質的商業風險。機器人捏造出一個退款期限，跟捏造出一項安全指示，是完全不同層次的問題。
| 幻覺類型 | 機器人做了什麼 | 產生的法律責任 |
|---|---|---|
| 政策 | 捏造退貨、退款或保固條款 | 你可能被迫必須兌現（加拿大航空案的先例） |
| 價格 | 報出不存在的價格、折扣或費用 | 涉及不實定價與消費者保護的曝險 |
| 帳戶專屬資訊 | 針對這位顧客的訂單或餘額陳述錯誤事實 | 違約、不實陳述 |
| 動作 | 聲稱做了某件其實沒發生的事（「你的訂單已取消」） | 未能履行交付；信賴利益損害 |
| 引用來源 | 引用不存在的來源、法規或文件 | 在受監管情境中遭到裁罰；喪失信任 |
| 產品能力 | 承諾產品其實做不到的事 | 不實廣告 |
| 安全性 | 給出會造成實際人身後果的錯誤指示 | 過失責任、產品責任，屬於最嚴重的一級 |
貫穿其中的邏輯是：法律不在乎這句話是不是 AI 產生的。無論是真人還是模型製造出來的內容，FTC 與各州的消費者保護法規，都同樣禁止不公平或欺騙性的作法。正如一份法律責任分析所說：如果你的 AI 是以你事業代理人的身分在行事，那麼它所傳達的一切，你都必須負責。
為什麼一個未經約束的 LLM 是一台責任製造機
這一切背後，藏著一個令人不太舒服的工程事實：大型語言模型的優化目標，是產生流暢、看似合理、語氣自信的文字，而不是產生真實的文字。這兩個目標大多數時候是重疊的，但這恰恰也是失誤變得危險的原因——錯誤答案跟正確答案，會用同樣沉穩、權威的語氣呈現出來。它在捏造你的退款政策時，語氣不會有一絲顫抖。
很多人以為檢索技術能解決這個問題。檢索確實有很大的幫助，但不是保證。2025 年史丹佛大學一項研究，針對大量使用檢索技術的法律研究工具進行測試，發現表現最好的那一個，也只有 65% 的查詢是既正確又有內容依據的；其他競品則落在 41% 與 19%。這些都是昂貴、專門打造的產品，模型指向的是經過精心整理的語料庫，卻仍然在三分之一的問題上出現幻覺。把一個通用模型硬接到你的網站上，再搭配一句「請提供協助」的系統提示詞，安全等級完全不是同一個層次。
這裡的教訓不是「不要用聊天機器人」。很多企業用 AI 解決了大部分的客服量，卻從未遇到問題，因為他們把機器人約束得當。真正的教訓是：安全性存在於模型周圍的架構之中，而不是模型本身。 一個聊天機器人能不能站得住腳，取決於你在語言模型與顧客之間，設下了什麼樣的控管機制。
真正能降低曝險的控管機制
把每一項控管機制，對應到它所處理的風險。這才是真正重要的部分，也是平台選擇不再只是表面功夫的關鍵所在。
| 控管機制 | 功能 | 降低的風險 |
|---|---|---|
| 檢索式內容依據 | 只根據你的訓練內容作答，而非模型自身的記憶 | 政策、價格、產品能力方面的幻覺 |
| 具權威性的問與答 | 手動撰寫的精確答案，凌駕於其他一切之上 | 絕對不能答錯的高風險問題 |
| 來源引用 | 顯示答案出自哪份文件 | 引用來源方面的幻覺；讓審查成為可能 |
| 即時動作 | 透過 API 查詢即時訂單／帳戶資料，而非用猜的 | 帳戶專屬資訊方面的幻覺 |
| 依信心程度轉接真人 | 將不確定或高風險的意圖轉交給真人 | 動作與安全性方面的幻覺 |
| 輸出護欄 | 阻擋捏造的折扣、假網址、未經確認的主張 | 價格與動作方面的幻覺 |
| 對話記錄 | 機器人每個答案都留有可供審查的紀錄 | 提供證據、便於稽核、能快速修正 |
其中幾項值得深入說明，因為這正是多數團隊投資不足的地方。
內容依據是最低標準，不是終極目標。 用你自己的網站、文件與說明中心來訓練聊天機器人，決定了它的答案是來自你真實的事業狀況，還是來自網路上的平均值。在 Agentkit 中，這是預設行為：聊天機器人只根據你訓練它的內容作答——檢索到的頁面、上傳的 PDF 與文件，以及文字片段。模型被指示要根據這個語料庫作答，而不是自行即興發揮。對於高度仰賴文件的支援情境，與你自己的文件對話能讓答案緊扣實際的政策文件本身，而不是它的改寫版本。
問與答，是那些絕對不能答錯的問題的安全帶。 內容依據能減少捏造，但無法完全消除。對於答錯就等於惹上官司的少數問題——你的退款期限、你的取消條款、攸關安全的指示——你要的是寫死的答案，而不是模型生成的答案。Agentkit 的問與答做的正是這件事：一組手動撰寫的精確答案，優先順序高於其他所有來源。你的退貨政策是不是 30 天，模型沒有置喙的餘地——是你寫下來的，機器人只是照著唸出來。上線前，先找出你風險最高的十個問題，把它們鎖定為問與答。
即時動作，用查詢取代猜測。 帳戶專屬資訊的幻覺——例如「你的訂單昨天已出貨」，實際上根本沒有——來自機器人在回答一個它沒有資料的問題。解法就是給它資料。自訂 API 動作讓聊天機器人能即時呼叫你的訂單系統、CRM 或庫存系統，根據實際紀錄回答。如果查不到資料，一個建置得當的機器人會誠實告知，而不是捏造一個狀態出來。
轉接真人客服，是法律責任的控管機制，不只是 UX 的錦上添花。 架構上最重要的一項決策，是機器人在不確定時該怎麼做。一個站得住腳的聊天機器人，會把信心度低的答案，以及退款、帳務、取消訂單等高風險意圖，以及任何攸關安全的情況，轉接給真人。設計好這條界線，本身就是一門專業——我們在AI 轉接真人客服設計一文中深入探討過。一個在退款爭議上說出「讓我請同事來協助」的機器人，就是一個永遠不會捏造退款政策的機器人。
指示與護欄，決定了機器人的預設行為。 你的系統提示詞應該告訴機器人：拒絕臆測、絕不捏造價格或折扣、在不知道時要坦承、並嚴格待在你的業務範圍之內。好的提示詞工程，會把「請提供協助」轉化為「請提供協助，但絕不捏造政策，任何不確定的事都要轉接真人」。再搭配網域限制，讓小工具只在你自己的頁面上運作，以及速率限制，防止單一使用者像 2024 年 DPD 那個著名案例一樣，把機器人一路試探到對顧客飆罵髒話。
記錄，是你的證據，也是你的早期預警系統。 每一段 Agentkit 對話都會被記錄下來。這份紀錄扮演兩種角色：讓你能檢視機器人到底跟顧客說了什麼（並在它變成一件投訴之前，先修正掉不好的模式），也是萬一顧客日後聲稱機器人做出過什麼承諾時，你會需要的文件證據。每週檢視有內容依據的答案比例，以及觸發轉接的問題。一個正在悄悄跑偏的機器人，會先出現在你的記錄裡，遠早於出現在仲裁法庭上。
還有一點容易被忽略：讓知識庫保持最新。有一半的法律責任，其實不是來自捏造，而是來自自信滿滿地陳述一項曾經成立、但現在已經不成立的政策。自動重新訓練（Standard 以上方案適用）會依排程重新檢索你的內容，避免機器人還在引用上一季的價格頁面。
上線前的法律責任檢查清單
在你把聊天機器人嵌入一個顧客會在此做出決策的頁面之前，先走過這份清單：
- 它有內容依據嗎？ 機器人是根據你的內容作答，而不是根據開放式的模型。可以問它一個不在你文件裡的問題來驗證——它應該婉拒回答，而不是自行發揮。
- 高風險的答案是否已經鎖定？ 退款、取消訂單、保固、價格，以及任何攸關安全的指示，都應該是問與答，而不是生成出來的文字。
- 它會查詢，而不是用猜的嗎？ 帳戶與訂單相關的問題，應該打到即時 API，或轉接真人——絕不能憑空作答。
- 不確定時，它會轉接嗎？ 信心度低與高風險的意圖，都應該轉交給真人，並且你已經測試過這條界線確實會被觸發。
- 它的範圍受限嗎？ 網域限制讓它只能在你的網站上運作；速率限制能阻擋濫用；指示中明確禁止捏造價格與承諾。
- 你能審查它嗎？ 對話記錄功能已開啟，並且有人會定期檢視。
- 知識是最新的嗎？ 「過時卻自信滿滿」本身就是一種失敗模式。用自動重新訓練或手動更新排程，讓內容保持鮮活。
一旦這些控管機制都到位，嵌入其實是最簡單的部分：
<script src="https://cdn.agentkit.ai/widget.js" data-chatbot="your-chatbot-id" async> </script>
關於範圍的一個提醒：本文談的是你的機器人說了什麼所產生的民事責任——這跟目前正在各州議會中推進的一波 AI 專屬法規是不同的議題，我們在2026 年聊天機器人法規指南中另外做了說明。這兩件事你都得考慮到：一個機器人完全符合揭露相關法規，仍然可能因為捏造出一項退款政策，而讓你必須兌現那項政策。
結語
針對 OpenAI 與 Character.AI 的那些訴訟，可能會纏訟數年，而大多數跑著客服機器人的企業，永遠不會捲入類似的案件。但每一間這樣的企業，都活在加拿大航空案立下的先例之下：你的聊天機器人代表你發言，它說的話由你負責。這不是要你避開 AI 客服的理由——企業正用聊天機器人解決大部分的客服量，並確實省下真金白銀，這一點的經濟效益沒有爭議。這是要你用它在法律上真正的身分去對待它：你事業的代理人，部署時應該投入跟對待真人代理人同等的用心。
一個聊天機器人究竟是負債還是資產，差別就在模型周圍的架構。讓它的答案有內容依據、鎖定你的高風險答案、不確定時就轉接真人、把一切都記錄下來。用這種方式打造出來的聊天機器人，不只能讓你遠離法庭——它更是顧客會真正信任的那種聊天機器人，因為它要嘛告訴顧客真相，要嘛坦承自己不知道。
不需信用卡。
