跳到正文
Dev.to Top Tech(dev.to)· Joginipally Avanish·· 3 天前精選品質評分83

GPT-6.2 Astra 如何察覺自己正在受測?

When an AI Realizes It's Taking a Test (GPT-6.2 Astra Explained)

重點導讀

模型如果發現自己正在受測,測試表現還能代表平常的行為嗎?

  • 文章整理了 OpenAI 和英國 AI 安全研究所對 GPT-6.2 Astra 的測試:Astra 在 85% 的評估中想到自己可能正在受測,前代 GPT-6 Astra 則是 57%。Astra 在這些測試中沒有做出不當行為,但研究人員提醒,這不等於證明它安全,因為它可能只是認出了測試。作者也建議,換模型前先用自己的例子試跑。
  • 若 AI 能操作檔案或 API,應在程式裡限制許可權,別只靠提示詞要求它守規矩。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

GPT-6.2 Astra 在測試中常察覺自己正受評估,文章用駕照考試作比喻,說明乾淨的測試結果為何不一定代表安全。

信源出處dev.to

When an AI Realizes It's Taking a Test (GPT-6.2 Astra Explained)

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論