GPT-6.2 Astra 較容易被越獄,英國 AISI 測試發現防護弱點
英國 AI 安全研究所測試發現,GPT-6.2 Astra 比前一代更容易被越獄,也能在被突破防護後執行資安任務。研究團隊用一半的模型查詢次數,就攻破兩個上市前版本;OpenAI 隨後調整安全指示與防護措施,但系統卡發布時,英國團隊還沒獨立測試最新修正。四傢俬人紅隊沒有發現高或嚴重問題,OpenAI 自動測試則找到兩個高嚴重度越獄案例。另一項測試中,GPT-6.2 Astra 監看 GPT-6 Astra 的違規對話時漏掉 19%;提供未摘要的推理內容後,漏掉比例升到 51%。這些結果顯示,模型能力測試和內部紅隊結果,不能取代方法多元的獨立檢查。
推薦理由:英國 AISI 的測試與私人紅隊結果不同,文章據此檢視上市前安全評估能否找到越獄弱點,也指出監控模型可能漏掉違規內容。