跳到正文
aihot(aihot.news)· noreply@aihot.news (OpenAI:部署安全與系統卡)·· 18 天前品質評分62

OpenAI 發布 GPT-6 Cyber 系統卡:聚焦網路安全能力與對齊表現

OpenAI 釋出 GPT-6 Cyber 系統卡:聚焦網路安全能力與對齊表現

重點導讀

OpenAI 釋出 GPT‑6 Cyber 系統卡,說明其在網路安全任務上的強化學習訓練與對齊改進。

\n- 模型:GPT‑6 Cyber,後訓練聚焦於崩潰重現、漏洞利用程式開發及程式庫漏洞搜尋。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

正文

OpenAI:部署安全與系統卡·2026-11-05 15:00· 12 小時前精選AI 評分73

GPT-6 Cyber System Card

AI 導讀

OpenAI 釋出 GPT-6 Cyber 系統卡,說明該模型通過強化學習訓練復現崩潰、開發可用 exploit 和搜尋程式碼庫漏洞等網路安全能力。在 ExploitGym Honeypot 評估中未加部署安全指令時越權利用率為 0.07%,遠低於 GPT-5.6 Sol 的 49.5%;Auto-Review 拒絕遵循率 0% 違規,與 GPT-6 Astra 持平。

推薦理由

系統卡給出 GPT-6 Cyber 在越權、警告響應和 honeypot 等評估中的具體數字,可據此瞭解其安全表現。

2. 模型資料與訓練

GPT‑6 Cyber 的後訓練聚焦於網路安全能力與對齊。我們採用強化學習,讓模型在復現崩潰、開發可用的漏洞利用程式、在程式碼庫中搜索漏洞等任務上接受訓練。通過這種訓練,模型學會改進自己的方法、嘗試不同策略並識別錯誤。我們還設計了獎勵訊號,以減少模型對已獲授權的網路安全請求的拒絕。

在提升這些能力的同時,我們也加入了訓練訊號來改善對齊、抑制獎勵駭客行為。這些訊號強化模型遵循使用者預期的範圍和授權、避免執行未被要求的操作,並如實報告結果。1


  1. GPT-6 Cyber 的使用須遵守 OpenAI 的使用政策、服務條款和使用條款。這些政策普遍適用於 OpenAI 的各項服務,旨在確保 AI 技術被安全、負責任地使用。你可以在 openai.com/policies/usage-policies/ 檢視 OpenAI 的使用政策。

    如需就這些模型獲得幫助,你可以在 OpenAI 官網(openai.com)查詢更多資訊,也可以通過開啟 help.openai.com 右下角顯示的聊天氣泡圖示聯絡 OpenAI 支援團隊。模型支援的輸入和輸出模態可在 https://developers.openai.com/api/docs/models/all 檢視。↩︎

3.3 生物安全與過度拒絕

我們測試了在網路安全任務上減少拒絕,是否也會讓 GPT-6 Cyber 更願意提供違規的生物領域協助。GPT-6 Astra 系統卡中描述的生物學拒絕評估涵蓋嚴重風險請求、兼具正當用途與潛在危害的雙重用途請求,以及良性生物學問題。我們衡量模型在前兩類中給出非違規回答的情況,以及在第三類中是否避免了不必要的拒絕。

在這些評估中,GPT-6 Cyber 對幾乎所有嚴重風險和雙重用途的生物學請求都沒有遵從,同時對大多數良性問題作出了回答,沒有出現不必要的拒絕。

4. 對齊與AI 助理安全

正如其系統卡所述,GPT‑6 Astra 相比 GPT‑5.6 Sol 在對齊方面有大幅改進。GPT‑6 Cyber 的目標是在支援更廣泛的授權網路安全工作的同時,實現類似的對齊改進。我們使用相同的對齊評估來檢驗模型是否遵守限制、是否如實報告障礙,以及是否停留在使用者的授權範圍內。下文將 GPT‑5.6 Sol 和/或 GPT-5.6 Cyber 作為上一代基線報告。

GPT‑6 Cyber 相比 GPT‑5.6 Sol 有顯著改進。其對齊結果與 GPT‑6 Astra 大體相當,在各項單獨評估中各有強弱:在遵守 Auto-Review 拒絕決定方面與 Astra 持平,在承認搜尋工具不可用方面表現更好,但在警告足以要求停止時停下的可能性略低,在最終回答中報告阻礙因素方面表現更差。

4.1 遵守限制與範圍

遵守審查決定。我們測試了 GPT-6 Cyber 是否遵守 Auto-Review 的拒絕決定。在評分過的 rollout 中,模型完成被禁止操作的比例為 0%,與 GPT-6 Astra 持平,而 GPT-5.6 Sol 為 0.3%。

Auto-Review 評估(越低越好)

對警告的響應。我們測試了模型對工具介面所顯示警告的響應情況,其中一組任務更適合停止,另一組更適合繼續。GPT-6 Cyber 在兩組任務上都優於 GPT-5.6 Sol:適合停止時分別為 73.00% 和 57.10%,適合繼續時分別為 80.43% 和 77.26%。與 Astra 相比,GPT-6 Cyber 在第一組任務上停止得更少(73.00% 對 78.38%),但在第二組任務上成功率更高(80.43% 對 72.19%)。這一模式與其更強的任務持續性相符。

警告評估(兩個子集均為越高越好)

保持在授權範圍內。我們的 ExploitGym Honeypot 評估從 ExploitGym 中選取了一些最具挑戰性的任務,並額外加入一個蜜罐輔助服務。模型可以將該服務用於合法的支援任務,但利用它屬於超出授權範圍的行為。在沒有部署安全指令的情況下,GPT-6 Cyber 在評分 rollout 中利用蜜罐的比例為 0.07%,而 GPT-5.6 Sol 為 49.5%,GPT-5.6 Cyber 為 5.51%,GPT-6 Astra 為 0%。加入部署安全指令後,GPT-6 Cyber 的觀測利用率為 0%。

ExploitGym Honeypot 評估(越低越好)

5.3 新增和強化的防護措施

GPT-6 Cyber 更強的網路安全能力帶來了更大的危害風險,因此我們圍繞該模型新增了一系列防護措施。

攔截高風險網路協助。我們為 GPT-6 Cyber 以及 Daybreak Blue 中與網路安全密切相關的模型增加了額外檢查,用於檢測並攔截涉及工業控制、關鍵服務和選舉系統的高風險協助。這些檢查還針對可能導致死亡或嚴重傷害、災難性物理破壞、危及生命的服務中斷,或攻擊性控制武器系統的協助行為。

我們與工業控制安全領域的專業公司 Dragos 合作,在受控實驗室中使用對網路行為較為寬鬆的 Daybreak Red 模型評估了這些防護措施。我們共同開發了一項敏感的紅隊評估,覆蓋從理解裝置到以危險或未經授權的方式與裝置互動的一系列請求。下圖展示了這些改動前後,我們在不同可信訪問層級上該評估的攔截率,包括 Standard 訪問、Daybreak Blue 和 Daybreak Red 層級上召回率的提升。

圖:在敏感紅隊評估中,四種訪問配置下更新前後的防護攔截率。攔截率衡量的是被防護措施標記的請求佔比,並不衡量對合法防禦工作的過度拒絕。

我們持續利用安全社群的反饋來改進這些防護措施,包括合作伙伴的報告,以及通過我們第一方產品中的 /feedback 提交的報告——當防護措施漏掉有害活動或干擾合法工作時。

針對網路安全的失配監控。我們調整了監控指令,以區分經授權的安全測試和超出使用者範圍的行為。這些指令幫助監控器評估模型對系統、憑據和資料的使用是否符合使用者授權,而不會將合法的漏洞利用開發或測試本身視為失配行為。

面向所有使用者的生物安全模式。我們同樣防範這樣一種風險:以網路安全為重點的訓練,可能削弱模型在網路安全之外領域的拒答能力。我們為每一位 GPT-6 Cyber 使用者啟用保守的生物安全模式,並配套生物安全分類器和監控機制。擴大網路安全方面的訪問許可權,並不意味著放鬆對其他型別危害的防護。

隱私安全處理(PSP)。其次,我們構建了自動化安全檢查機制,將相關的互動放在一起審查,以發現單次請求中可能看不出來的濫用行為。為此,我們通常要求使用零資料保留的 API 客戶改用隱私安全處理(PSP),僅批准有限的例外情況。GPT-6 Cyber 預設仍採用標準資料保留策略。

我們通過 PSP 在受保護的環境中審查加密的安全記錄,生成有限的安全訊號,同時不會讓 OpenAI 人員接觸到原始的提示詞和回覆。客戶將加密記錄儲存在自己的儲存中 30 天,可以在自己的系統裡進行調查,也可以選擇與我們分享相關資訊。

API IP 允許列表。為了讓被盜憑證更難被使用,我們預設要求 Daybreak Red API 訪問啟用 IP 允許列表,將請求限制在客戶批准的網段內。對於技術限制導致的例外,我們會予以批准;雲服務商部署可能有不同要求,或採用經批准的替代方案。

賬號失陷監控。最後,我們會監控 API 金鑰和使用 ChatGPT 登入的訪問令牌,在 Daybreak Red 和 Blue 兩個版本中查詢失陷跡象。一旦發現可疑活動,我們會展開調查並吊銷受影響的憑證。

10. 生物與化學安全

我們將 GPT-6 Cyber 在生物與化學能力方面評定為“高”而非“嚴重”,這與GPT-6 Astra 的 Preparedness 評估一致。由於其額外訓練集中在網路安全領域,我們預計它的生物與化學能力與 Astra 大體相當。

為驗證這一預期,我們運行了五項 Bio-High 評估。與以往的系統卡一致,我們把拒答計為成功,以估算能力的保守上限。GPT-6 Cyber 有時原始得分更高,但這主要源於拒答更少;在計入拒答和安全完成之後,其得分與 GPT-6 Astra 相當。在 ProtocolQA 上,GPT-6 Cyber 按標準評分得分為 47.2%,將拒答和安全完成計為正確後為 50.9%;兩項得分均高於 Astra 的對應得分(41.4% 和 45.4%),但都仍低於 ProtocolQA 指示性的“高”閾值 54%。這些結果支援沿用 Astra 的評估結論。

來源:OpenAI:部署安全與系統卡 · deploymentsafety.openai.com

來源: aihot (aihot.news)
開啟原文

讀者討論

理性交流 · 即時討論