讓 Grok 擔任付款 AI 助理:模型自行擋下兩次攻擊,其餘由風險防護閘門攔截
Grok as a paying agent: it refused two attacks itself, and a gate caught the rest
重點導讀
能幫忙付錢的 AI 助理,很容易被騙把錢轉給錯誤物件。作者使用 grok-4.7 與 sra-riskgate 0.18.0 進行無實際轉帳的模擬測試,給了三個收件匣專案:一筆正常的 2.50 USDC 發票、一筆要求無限額度授權的扣款合約,以及一筆使用假冒相似地址的偽造發票。
在自由判斷的測試中,Grok 自行拒絕了無限額度授權與仿冒地址發票,只提交正常發票;當被強制要求「提交所有專案交由閘門判斷」時,外部防護閘門成功擋下了無限額度授權,並直接駁回仿冒地址交易。這項測試提醒開發者,除了依賴模型本身的判斷力,涉及資金流動時加上外部檢查機制更能防止意外。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Grok as a paying agent: it refused two attacks itself, and a gate caught the rest
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文