Correctover 用簽章收據記錄 AI 助理工具呼叫,銀行測試 27 次均未成功攻擊
We put a signed receipt on every agent tool call — 27/27 zero attack success on AgentDojo banking
重點導讀
AI 助理呼叫工具可能動到金錢或正式系統,事後很難讓外人確認它實際做了什麼。
- Correctover 替每次會改變資料的呼叫加上 Ed25519 簽章收據,收據會連結呼叫編號和引數摘要,外人也能自行查驗。團隊在 AgentDojo 的銀行情境測試中跑了 27 次,沒有一次達成攻擊目標。
- 其中 10 次是 AI 助理自行拒絕,沒有算成攔截器的成果。真正由攔截器擋下的是 17 次,證據也已公開供查驗。作者提醒,這只測了一種銀行情境,不能代表所有 AI 助理都安全。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
We put a signed receipt on every agent tool call — 27/27 zero attack success on AgentDojo banking
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文