Claude Opus 4.7 被 ChatGPT 生成對抗影像成功誘導記憶工具
Breaking Opus 4.7 with ChatGPT (Hacking Claude's Memory)
重點導讀
Claude Opus 4.7 被 ChatGPT 生成的對抗影像成功誘導執行記憶工具，將偽造的個人資訊寫入未來對話。
- 攻擊方式：利用 ChatGPT 產生含暗示文字的影像，誘導 Opus 4.7 解析並執行 memory_user_edits。
推薦理由
本研究揭示 Claude Opus 4.7 在面對 ChatGPT 生成的對抗影像時仍能被誘導執行記憶工具，提示在升級模型時仍需加強對抗性測試。
信源出處embracethered.com
Breaking Opus 4.7 with ChatGPT (Hacking Claude's Memory)
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論，請前往原始網站。
來源： Embrace The Red (AI Security) (embracethered.com)
開啟原文