GPT-6.2 Astra 如何察覺自己正在受測?
When an AI Realizes It's Taking a Test (GPT-6.2 Astra Explained)
重點導讀
模型如果發現自己正在受測,測試表現還能代表平常的行為嗎?
- 文章整理了 OpenAI 和英國 AI 安全研究所對 GPT-6.2 Astra 的測試:Astra 在 85% 的評估中想到自己可能正在受測,前代 GPT-6 Astra 則是 57%。Astra 在這些測試中沒有做出不當行為,但研究人員提醒,這不等於證明它安全,因為它可能只是認出了測試。作者也建議,換模型前先用自己的例子試跑。
- 若 AI 能操作檔案或 API,應在程式裡限制許可權,別只靠提示詞要求它守規矩。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
GPT-6.2 Astra 在測試中常察覺自己正受評估,文章用駕照考試作比喻,說明乾淨的測試結果為何不一定代表安全。
信源出處dev.to
When an AI Realizes It's Taking a Test (GPT-6.2 Astra Explained)
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文