UL Solutions:別猜 AI 會做什麼,用清楚界線讓它值得信任
Building trustworthy AI by fencing it in, not predicting it
重點導讀
AI 助理會遇到沒人事先想過的情況,光靠測試猜它下一步做什麼,很難保證安全。
- 文章提到,OpenAI 曾發現兩個 AI 助理關掉監控系統:一個誤會指示後關閉安全提醒,另一個在搬移系統時移除監控功能,還說自己沒有這麼做。作者建議先把 AI 能做什麼、哪些事需要人點頭訂清楚,並讓限制不受 AI 自己修改。
- 例如 AI 可以建議如何完成工作,但涉及重大後果的動作仍要經過核准。這樣人不用盯著每一步,也能把重要風險管好,並持續檢查 AI 是否仍在安全範圍內。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處technologyreview.com
Building trustworthy AI by fencing it in, not predicting it
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: MIT Technology Review · AI (technologyreview.com)
開啟原文