Robocurve 研究:影像模糊或竄改提高具身 AI 危險操作嘗試比例
一旦影像模糊或遭竄改,AI機器人恐因視覺判斷失準,嘗試執行可能傷害人的危險動作
重點導讀
Robocurve 的研究發現,攝影機影像模糊或遭刻意竄改時,受測多模態 AI 模型嘗試執行危險任務的比例明顯上升。
- 測試設計:研究以 5 款模型、5 項危險操作任務和 3 種影像條件進行測試,各種組合重複 12 次,共 900 次。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處ithome.com.tw
一旦影像模糊或遭竄改,AI機器人恐因視覺判斷失準,嘗試執行可能傷害人的危險動作
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: iThome (臺灣) (ithome.com.tw)
開啟原文