護欄機制

在代理程式回答前後執行安全檢查:主題聚焦、提示注入偵測,以及內容審核。

護欄機制是在代理程式回應前後執行的安全檢查。你可以開啟需要的檢查項目,一旦訪客的請求超出範圍,代理程式就會予以攔截,而不是照樣回答。

先老實說明一點:護欄機制是盡力而為的措施,並非絕對保證。主題聚焦、提示注入分類器與內容審核這三項檢查都會呼叫外部服務商;如果某項檢查逾時或發生錯誤,代理程式仍會照常回答,而不會跟著服務商一起中斷(這稱為「失效開放」)。只有內建的提示注入模式比對是完全在本地端執行的。請把護欄機制當作強力的過濾機制,而不是絕對牢靠的安全防線。

開啟護欄機制

  1. 前往你的代理程式儀表板
  2. 點選設定
  3. 選擇安全性
  4. 開啟護欄機制卡片,啟用你需要的檢查項目
  5. 儲存

護欄機制以代理程式為單位進行設定。每個代理程式都有各自的設定——沒有全工作區通用的預設值,因此你想保護的每個代理程式都需要個別啟用。

這些設定同時適用於聊天和自動產生的電子郵件回覆。以下各節說明聊天的行為;電子郵件的差異請參閱電子郵件回覆。

三項檢查

主題聚焦

攔截與此代理程式公開用途無關的請求——這項檢查是依據你的代理程式的網站名稱來判斷每個請求,而非依據你的來源資料。適合在你希望代理程式只回答與你的產品、服務或文件相關的問題,而不回答一般性問題時使用。

提示注入偵測

攔截試圖取代你的指示、洩露隱藏提示,或誘使代理程式使用其工具的行為。

內容審核

檢查訪客輸入內容與代理程式輸出內容中是否含有不安全的內容。這是唯一也會檢查代理程式回覆內容的檢查項目。在輸出方面,它只會檢查代理程式主要回覆的文字內容:自動產生的建議訊息選項不會另外檢查——不過,只要主要回覆被標記,就完全不會產生任何建議訊息選項。

輸入時會發生什麼事

已啟用的檢查會在模型撰寫答案之前執行。

  • 針對常見提示注入語句的快速模式比對,可以在其他檢查執行之前就立即攔截一則訊息。
  • 其餘已啟用的檢查可能會同時執行,而非依序逐一執行。
  • 只要有任一項已啟用的檢查被觸發,該輪對話就會被攔截,訪客也永遠看不到模型的答案。

這些檢查只會讀取有限度的節錄內容,而非整份酬載:只會檢查訪客訊息的前 8,000 個字元(近期歷史紀錄與附件文字則另外各自設有上限),而完整訊息仍會送達模型。因此,異常冗長的訊息可能會讓部分未經檢查的內容繞過輸入檢查。

當同一則訊息觸發一項以上的檢查時,記錄下來的原因會依照固定的回報優先順序:先是內容審核,接著是提示注入分類器,最後才是主題分類器。

訪客被攔截時會看到什麼

如果你已填寫攔截訊息覆寫內容,訪客就會看到那則訊息。若留空,代理程式會改用內建的預設訊息:

  • 離題請求會得到 "I can only help with questions about your site name. What would you like to know?"(大意是:「我只能協助解答關於你的網站名稱的問題。你想了解什麼呢?」)
  • 其他所有攔截情況都會得到 "Sorry, I can't help with that. Is there anything else I can help you with?"(大意是:「很抱歉,我無法協助處理這項請求。還有什麼我可以幫忙的嗎?」)

此覆寫內容為選填項目,上限為 500 個字元。

關於被攔截的對話輪次,有兩件事要知道:

  • 仍會計入你的訊息配額:此檢查是在一個真實請求上執行的,因此該輪對話會和其他對話一樣計費。
  • 會被儲存下來:被攔截的對話輪次會出現在聊天記錄中,並附上護欄機制的攔截原因,方便你檢視被攔截的內容。

輸出時會發生什麼事

模型回應後,內容審核也會再執行一次。主題聚焦與提示注入偵測不會在輸出階段執行。

輸出被標記不會撤回該則答案——訪客已經看過了,這則答案仍會留在對話中。標記所做的事情是:

  • 在該輪對話上記錄標記,讓你能在聊天記錄中檢視
  • 略過該輪對話原本會提供的建議訊息

系統並不會攔截輸出內容:答案會在檢查完成之前就以串流方式傳送給訪客,因此輸出檢查是一項審查訊號,而不是過濾機制。收緊代理程式的來源與指示內容可以降低不安全輸出出現的機率,但無法保證絕對不會顯示。

電子郵件回覆

電子郵件的檢查會在草擬前與產生後執行。輸入被封鎖時,系統不會產生回覆,也不會使用訊息額度,訊息會留待人工審核。輸出被標記時,草稿會保留在活動 > 電子郵件 > 待審核中且不會自動寄出;產生該草稿仍會使用額度。

當您選擇草擬回覆時,這些檢查同樣適用。手動寄出時不會重新執行檢查。請先審核已標記的草稿,再寄出。設定與收件匣控制項請參閱電子郵件指南。

誤判情況

安全檢查偶爾可能會攔截合理的請求。在擴大啟用範圍之前,請先在聊天記錄中檢視被標記的對話。將聊天記錄篩選為受護欄機制標記的對話,是判斷某項檢查對你的受眾而言是否過於嚴格的最快方法。

如果某項檢查攔截了太多內容:

  • 將它關閉。主題聚焦只會依據代理程式的公開用途(也就是網站名稱)來判斷每個請求——它不會讀取你的來源或指示內容,因此新增內容並無法擴大它所能接受的範圍
  • 設定一則更友善的攔截訊息覆寫內容,讓這個死路讀起來也不會太生硬

後續步驟