Google 推出 Semantic governance policies,在 AI 助理執行工具呼叫前檢查是否合規
Check what your AI agents do before they do it, with Semantic governance policies
重點導讀
AI 助理有權讀取檔案和寄信,不代表每次操作都符合公司規定。
- Google 在 Gemini platform 預覽推出 Semantic governance policies,透過 Agent Gateway,在工具呼叫執行前檢查它是否符合使用者原本的要求和企業用白話寫下的規則。比如財報公開前,系統可以擋下把數字寄給投資人或私人信箱的要求,也能攔住檔案裡偷偷塞進、沒人要求的刪檔指令。每次判斷和理由都會記錄在 Cloud Logging。
- 由於判斷使用 LLM,結果可能不同,Google 建議先用 dry run mode 檢查,再啟用阻擋。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
文章以財務郵件為例,說明如何在工具呼叫執行前同時檢查使用者原意與企業規則,並留下可供稽核的判斷紀錄。
信源出處developers.googleblog.com
Check what your AI agents do before they do it, with Semantic governance policies
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Google Developers Blog (developers.googleblog.com)
開啟原文