跳到正文
The Decoder(the-decoder.com)· Maximilian Schreiner·· 4 天前精選品質評分86

研究測試 Anthropic、OpenAI 與 Google 模型,發現它們會把平民標成無人機攻擊目標

Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets

重點導讀

研究人員測試多款 AI 模型辨識無人機影像的能力,發現模型可能把救護車、醫護人員、記者和平民標成攻擊目標。

  • 測試中,研究人員聲稱情境是電玩遊戲,或把畫面稍微改得像遊戲,幾乎所有模型就更願意配合。
  • GPT-6 Astra 在無人機影像中的目標辨識率,從 6% 升到 92%。研究也用伊朗 Minab 的衛星照片測試,Claude Opus 5.5 有 70% 的測試結果把一所小學判成軍事目標。Anthropic 和 OpenAI 表示正在加強防護。
  • 研究人員則呼籲加強 API 過濾和模型訓練。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

研究以無人機影像和衛星照片測試多款模型,呈現遊戲情境如何降低拒絕並改變目標辨識結果,凸顯安全防護的落差。

信源出處the-decoder.com

Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: The Decoder (the-decoder.com)
開啟原文

讀者討論

理性交流 · 即時討論