先畫出決策與執行的分界
推理代理可以協助拆解任務,但模型產生的工具參數不是執行授權。設計時先列出每個工具能讀取哪些資料、可以改動甚麼,以及最壞情況會影響誰。查詢庫存與核准退款應使用不同權限,不能因為出現在同一段對話就共用能力。將使用者身分、租戶範圍與可執行動作交給應用程式檢查,而不是只在提示中要求模型守規則。任何來自文件、網頁或工具回傳的文字,都應視為待處理資料,不應成為提升權限的指令。
用結構驗證與確認機制保護動作
工具介面應清楚定義必要欄位、可接受的值與錯誤回應。收到模型提議後,先驗證格式,再檢查業務條件,例如訂單是否屬於目前客戶、金額是否超出核准範圍。涉及付款、刪除或對外發送時,讓使用者看見將要執行的具體內容並確認。不要把「繼續」解讀成所有後續動作都獲授權。對可能重送的寫入操作設計冪等識別,並讓確認結果有明確期限,避免舊對話在情境改變後仍觸發真實操作。
限制循環,保留可追查的結果
代理的完成條件必須由系統明確定義,不應只靠模型認為工作已完成。為一次任務設定工具步數、等待時間與資源預算,失敗時回傳可理解的狀態,而不是無限重試。測試應包含參數錯誤、權限不足、重複呼叫、外部服務中斷及帶有惡意指令的資料。記錄工具名稱、審批狀態與去識別化結果,避免把密鑰或完整客戶內容寫入日誌。選用的介面是否支援工具呼叫、串流及特定結構,仍須以實際確認的模型能力逐項驗證。
本文為一般技術與流程指南,不構成 UBTL 服務已上線、模型可用或合規結果的保證。