OpenAI 加強 GPT-6.2 防護,降低攻擊者抽取模型推理內容的成功率
攻擊者可能透過一連串請求,試著套出 AI 模型受保護的推理內容。OpenAI 表示,GPT-6.2 Astra 加入針對性訓練、輸入與輸出篩選,以及 API 封鎖等防護;面對協同行動,公司也會每週停用數千至數萬個帳號。OpenAI 的內部自動化測試中,從先前請求抽取內容的成功率,從 GPT-6 Astra 的 54.0% 降到 GPT-6.2 Astra 的 0.2%;針對目前請求則從 22.9% 降到 0.9%。OpenAI 也正把部分改進帶到 GPT-6 Astra。
推薦理由:OpenAI 的內部測試顯示,更新防護後,從先前請求和目前請求抽取受保護推理的成功率都大幅下降,呈現防護成效的具體比較。