GPT-6.2 推理沿用、防護與提示詞調整
先了解這件事
Cuelark 先以 Vercel AI SDK 做兩回合模擬,發現每回合變動的日期或頁面資訊若放在輸入開頭,可能改變對話字首;移到每回合的 instructions 後,模擬中便保留先前推理。
- 這項測試沒有呼叫 OpenAI 真實 API,仍須正式驗證。OpenAI 隨後說明,Responses API 的 GPT-6.2 可沿用較早推理以減少 token 使用並提高快取命中機會。
- 若修改較早訊息,API 會移除受影響的後續推理,模型可能重新計算。為降低推理內容遭蒐集並用於訓練其他模型的風險,OpenAI 對 GPT-6.2 Astra 與 Sol 加強防護。公司公佈的內部測試中,抽取 Astra 先前請求推理內容的成功率由 GPT-6 Astra 的 54.0% 降至 0.2%,抽取當次請求內容則由 22.9% 降至 0.9%。最新報導指出,OpenAI 也在模型檔案提供 Astra 與 Sol 的提示詞範本,協助改善回答太短或頻繁追問等情況,並提醒開發者檢查既有提示詞。
根據報導自動生成 · 1 天前更新
事件進展
- 11月21日 21:32 · 1 篇報導OpenAI發布GPT-6.2提示詞範本The Decoder:OpenAI 分享 GPT-6.2 Astra 和 Sol 的提示詞寫法,改善回答太短與追問太多
- 11月20日 18:00 · 4 篇報導OpenAI 強化 GPT-6.2 防蒸餾措施OpenAI News:OpenAI 強化 GPT-6.2 Astra 與 Sol 防護,降低模型推理內容被蒸餾的風險
- 11月20日 07:56 · 1 篇報導Responses API 更新推理專案處理方式OpenAI Developers (@OpenAIDevs):OpenAI 說明 GPT-6.2 如何沿用先前推理並減少 token 使用
- 11月19日 12:52 · 1 篇報導GPT-6.2 字首變更會移除推理項Dev.to Top Tech:GPT-6.2 聊天教學:把時間和頁面資訊移出固定提示詞
報導時間線
沿著報導,瞭解事件的不同面向。
- The DecoderOpenAI 分享 GPT-6.2 Astra 和 Sol 的提示詞寫法,改善回答太短與追問太多
GPT-6.2 Astra 和 Sol 的預設行為改變後,舊提示詞可能讓回答太短,或讓 AI 助理遇到不清楚的細節時停下來追問。OpenAI 在模型檔案中提供可直接使用的提示詞範本,教模型先講重點、保留作者原意,並在獲得授權時自行採取可回復的下一步;寫程式時則建議重用現有邏輯,只有在使用者要求、專案需要或能補上特定檢查時才新增測試。文章也提醒,Responses API 在編輯對話紀錄等情況下可能丟棄先前的推理內容,開發者需檢查既有提示詞與 API 設定。
- Dev.to Top TechOpenAI 說明 GPT-6.2 如何防止受保護的推理內容遭複製
模型的推理過程若被未經授權地拿去訓練其他模型,可能讓原本有安全限制的能力被複製。OpenAI 說明,GPT-6.2 Astra 和 GPT-6.2 Sol 會把受保護的推理內容和產生它的對話記錄連在一起;如果較早的訊息被改寫,後續推理內容就會被移除,舊款模型也不能讀取這些內容。OpenAI 還使用訓練、輸入與輸出檢查,以及 API 使用規則來防止內容外洩。公司公佈的內部測試顯示,GPT-6.2 Astra 從先前請求取回推理內容的成功率,從原本的 54.0% 降到 0.2%。
- The Decoder精選OpenAI 加強 GPT-6.2 防護,降低攻擊者抽取模型推理內容的成功率
攻擊者可能透過一連串請求,試著套出 AI 模型受保護的推理內容。OpenAI 表示,GPT-6.2 Astra 加入針對性訓練、輸入與輸出篩選,以及 API 封鎖等防護;面對協同行動,公司也會每週停用數千至數萬個帳號。OpenAI 的內部自動化測試中,從先前請求抽取內容的成功率,從 GPT-6 Astra 的 54.0% 降到 GPT-6.2 Astra 的 0.2%;針對目前請求則從 22.9% 降到 0.9%。OpenAI 也正把部分改進帶到 GPT-6 Astra。
- BlockTempo 動區動趨OpenAI 強化 GPT-6.2 防蒸餾,隱藏推理提取成功率降至 1% 以下
AI 助理如果要接著長對話工作,開發者可能想改寫舊訊息或整理成摘要,但這些變動會讓先前的推理無法沿用。OpenAI 說明,GPT-6.2 的推理內容會繫結之前的對話;改寫或插入舊訊息後,API 會移除受影響的推理,模型可能得重新計算,增加 token 用量、成本與等待時間。OpenAI 以六個攻擊模型進行紅隊測試,GPT-6.2 Astra 和 Sol 的隱藏推理提取成功率,在先前輪次與當次請求兩種測試中都低於 1%。開發者可保留原對話並往後追加,也能透過 API 回傳資訊和用量儀錶板檢視推理為何遭移除。
- OpenAI News精選OpenAI 強化 GPT-6.2 Astra 與 Sol 防護,降低模型推理內容被蒸餾的風險
有人可能大量蒐集前沿模型的回答,訓練出能力相近、但防護較弱的模型;若這些能力被用來進行網路攻擊,原模型的安全措施就可能無法跟著保護使用者。OpenAI 說明,它會用模型訓練、分類器和 API 防護來阻擋推理內容外洩,也會調查並處理協同行動。在內部自適應測試中,從先前請求取出 GPT-6 Astra 推理內容的攻擊成功率為 54.0%,在 GPT-6.2 Astra 更新防護後降至 0.2%;針對目前請求的攻擊成功率則從 22.9% 降至 0.9%。OpenAI 也表示,精確推理步驟可能讓另一個模型學到更多網路安全能力,因此會持續測試防護,並分享部分調查發現。
- OpenAI Developers (@OpenAIDevs)OpenAI 說明 GPT-6.2 如何沿用先前推理並減少 token 使用
AI 助理處理長對話時,若能接著先前的推理繼續工作,就能少用一些 token,也更容易命中快取。OpenAI 表示,在 Responses API 使用 GPT-6.2 時,AI 助理可以沿用較早的推理內容;從最新一代前沿模型開始,每段推理也會和它前面的對話紀錄連在一起。如果修改了較早的訊息,API 就會丟掉修改位置之後的推理內容,避免沿用已不符合新對話的推理。
- Dev.to Top TechGPT-6.2 聊天教學:把時間和頁面資訊移出固定提示詞
聊天時每回合更新日期或頁面資訊,可能讓 GPT-6.2 丟掉前面回合的推理內容。Cuelark 用 Vercel AI SDK 做了兩回合模擬測試,發現把這些會變動的資訊放在輸入開頭,會改變對話字首;改成固定系統提示詞,再把日期和頁面放進每回合的 instructions,模擬測試就保留了先前推理。作者沒有呼叫 OpenAI 的真實 API,因此這是依檔案製作的接線測試,正式上線前仍要用真實 API 確認。登入狀態改變或修改舊對話內容,也可能讓推理內容被移除。
本事件熱度趨勢
當前熱度 7·可比範圍峰值 34(11月21日 13:00)·近 24 小時可比範圍變化 -71%
趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點選圖表檢視每小時熱度;鍵盤可用左右方向鍵切換。
關聯事件
讀者討論
針對此事件的各方觀點與即時反饋