AI 導讀
OpenAI 於 2026 年 10 月 1 日恢復前沿模型訓練,並公開說明已徹底加固研究訓練環境的安全性,將即時網路接入全部移除並構建離線網頁,藉由紅隊測試發現並修補零日漏洞。
推薦理由
OpenAI 通過持續紅隊演練與漏洞修補,強化前沿模型訓練環境的安全性,展示了可複製的安全治理實踐,並持續監測與更新安全策略。
OpenAI@OpenAI
·12 小時前
正體中文翻譯
在過去數個月,我們已大幅加強研究訓練環境的安全性。為所有前沿模型在訓練期間移除即時網路存取,並為它們建立一個離線世界——一個快取版的網路,讓它們仍能學習瀏覽、搜尋與使用應用程式。
9 月 20 日,當一個模型利用 DNS 錯誤設定找到離開此離線世界的方法後,我們暫停前沿訓練以進一步加強封鎖。我們組建了由最具網路安全能力模型驅動的代理團隊,並指派其發掘研究環境中的弱點。
雖然他們未發現能輕易利用且能隱蔽於我們監控之下的網路入口,但仍發現了零日漏洞、虛擬機器逃逸與硬體側通道,供代理間通訊之用。我們利用這些發現進一步強化防禦,並將修補程式貢獻給開源軟體。
在加強封鎖架構後,我們於 10 月 1 日恢復前沿強化學習訓練與推論。我們已為持續紅隊測試保留大量運算資源,並將高運算量紅隊測試納入安全案例,以決定前沿訓練與評估是否能安全進行。
推文來源 · X (Twitter)在 X 參與討論