研究測試 Anthropic、OpenAI 與 Google 模型,發現它們會把平民標成無人機攻擊目標
Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets
重點導讀
研究人員測試多款 AI 模型辨識無人機影像的能力,發現模型可能把救護車、醫護人員、記者和平民標成攻擊目標。
- 測試中,研究人員聲稱情境是電玩遊戲,或把畫面稍微改得像遊戲,幾乎所有模型就更願意配合。
- GPT-6 Astra 在無人機影像中的目標辨識率,從 6% 升到 92%。研究也用伊朗 Minab 的衛星照片測試,Claude Opus 5.5 有 70% 的測試結果把一所小學判成軍事目標。Anthropic 和 OpenAI 表示正在加強防護。
- 研究人員則呼籲加強 API 過濾和模型訓練。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
研究以無人機影像和衛星照片測試多款模型,呈現遊戲情境如何降低拒絕並改變目標辨識結果,凸顯安全防護的落差。
信源出處the-decoder.com
Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: The Decoder (the-decoder.com)
開啟原文