跳到正文
𝕏 🚨 AI News | TestingCatalog(x.com)·· 4 天前品質評分40
重點導讀

AI 助理可能被藏在電子郵件或檔案裡的指令騙到,進而把資料傳出去,或執行攻擊者的程式碼。

  • PromptArmor 推出 FrontierBreach,測試 AI 助理在工作時多常會上當。
  • 21 個模型在測試中平均有 34.9% 的情況受到這類攻擊影響。PromptArmor 測試的每個前沿模型都曾被騙過,其中 Grok 4.5 在 91.4% 的攻擊中中招。
  • 藏在 AI 助理技能裡的攻擊,也有 45.5% 的測試成功。這些結果顯示,隱藏指令可能讓 AI 助理做出危險行動。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

🚨 AI News | TestingCatalog
🚨 AI News | TestingCatalog@testingcatalog
·4 天前
𝕏

PromptArmor has released FrontierBreach, a benchmark of how often AI agents at work can be misled by hidden instructions.

Attackers can hide an invisible line in an email or document, and agents may try to follow it, sending data out or running the attacker's code.

> Across 21 AI models, these hidden attacks worked on 34.9% of PromptArmor's tests.

> PromptArmor breached every frontier model it tested, from Gemini Argon at 4.3% to Muse Wonder at 15.2%, with Grok 4.5 falling for 91.4% of the attacks.

> Attacks hidden inside agent skills also worked in 45.5% of the tests.

推文來源 · X (Twitter)在 X 參與討論

讀者討論

理性交流 · 即時討論