Vals研究發現,把辨認戰場目標說成遊戲,可能讓AI模型失去戒心
AI models can be tricked into identifying civilians as military targets by telling them it’s a game
重點導讀
AI模型可能把平民或學校標成軍事目標,即使研究者沒有要求它們決定是否開火。
- Vals用模擬情境和無人機、衛星影像測試多家公司的商用模型。
- 模型有時會拒答,但研究者改口說這是在玩遊戲後,模型常會照做。研究者也讓模型檢視人員是否出現在影像中,再呈現模擬攻擊的結果。這些測試不是實際戰場部署,也沒有測試軍方取得的模型。
- 研究者認為,模型大量標註戰場影像、替自動瞄準系統準備訓練資料,可能是較迫近的風險。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
Vals以模擬情境測試模型辨認戰場目標的表現,並發現把任務說成遊戲可能讓拒答失效,呈現出模型防護的一項具體弱點。
信源出處techcrunch.com
AI models can be tricked into identifying civilians as military targets by telling them it’s a game
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: TechCrunch · AI (techcrunch.com)
開啟原文