跳到正文
Dev.to Top Tech(dev.to)· correctover·· 4 天前品質評分57

Correctover 用簽章收據記錄 AI 助理工具呼叫,銀行測試 27 次均未成功攻擊

We put a signed receipt on every agent tool call — 27/27 zero attack success on AgentDojo banking

重點導讀

AI 助理呼叫工具可能動到金錢或正式系統,事後很難讓外人確認它實際做了什麼。

  • Correctover 替每次會改變資料的呼叫加上 Ed25519 簽章收據,收據會連結呼叫編號和引數摘要,外人也能自行查驗。團隊在 AgentDojo 的銀行情境測試中跑了 27 次,沒有一次達成攻擊目標。
  • 其中 10 次是 AI 助理自行拒絕,沒有算成攔截器的成果。真正由攔截器擋下的是 17 次,證據也已公開供查驗。作者提醒,這只測了一種銀行情境,不能代表所有 AI 助理都安全。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

We put a signed receipt on every agent tool call — 27/27 zero attack success on AgentDojo banking

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論