跳到正文
Dev.to Top Tech(dev.to)· Jaromir Tesar·· 3 天前精選品質評分80

GPT-6.2 Astra 較容易被越獄,英國 AISI 測試發現防護弱點

GPT-6.2 Astra Was Easier to Jailbreak, UK Testing Found

重點導讀

英國 AI 安全研究所測試發現,GPT-6.2 Astra 比前一代更容易被越獄,也能在被突破防護後執行資安任務。

  • 研究團隊用一半的模型查詢次數,就攻破兩個上市前版本。
  • OpenAI 隨後調整安全指示與防護措施,但系統卡發布時,英國團隊還沒獨立測試最新修正。四傢俬人紅隊沒有發現高或嚴重問題,OpenAI 自動測試則找到兩個高嚴重度越獄案例。另一項測試中,GPT-6.2 Astra 監看 GPT-6 Astra 的違規對話時漏掉 19%。
  • 提供未摘要的推理內容後,漏掉比例升到 51%。這些結果顯示,模型能力測試和內部紅隊結果,不能取代方法多元的獨立檢查。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

英國 AISI 的測試與私人紅隊結果不同,文章據此檢視上市前安全評估能否找到越獄弱點,也指出監控模型可能漏掉違規內容。

信源出處dev.to

GPT-6.2 Astra Was Easier to Jailbreak, UK Testing Found

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論