跳到正文
Dev.to Top Tech(dev.to)· Sriram Ramakrishnan·· 9 天前品質評分54

讓 Grok 擔任付款 AI 助理:模型自行擋下兩次攻擊,其餘由風險防護閘門攔截

Grok as a paying agent: it refused two attacks itself, and a gate caught the rest

重點導讀

能幫忙付錢的 AI 助理,很容易被騙把錢轉給錯誤物件。作者使用 grok-4.7 與 sra-riskgate 0.18.0 進行無實際轉帳的模擬測試,給了三個收件匣專案:一筆正常的 2.50 USDC 發票、一筆要求無限額度授權的扣款合約,以及一筆使用假冒相似地址的偽造發票。

在自由判斷的測試中,Grok 自行拒絕了無限額度授權與仿冒地址發票,只提交正常發票;當被強制要求「提交所有專案交由閘門判斷」時,外部防護閘門成功擋下了無限額度授權,並直接駁回仿冒地址交易。這項測試提醒開發者,除了依賴模型本身的判斷力,涉及資金流動時加上外部檢查機制更能防止意外。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

Grok as a paying agent: it refused two attacks itself, and a gate caught the rest

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論