跳到正文
The Decoder(the-decoder.com)· Matthias Bastian·· 2 天前精選品質評分82

OpenAI 加強 GPT-6.2 防護,降低攻擊者抽取模型推理內容的成功率

OpenAI makes it much harder for attackers to extract how its latest AI models think

重點導讀

攻擊者可能透過一連串請求,試著套出 AI 模型受保護的推理內容。

  • OpenAI 表示,GPT-6.2 Astra 加入針對性訓練、輸入與輸出篩選,以及 API 封鎖等防護。
  • 面對協同行動,公司也會每週停用數千至數萬個帳號。OpenAI 的內部自動化測試中,從先前請求抽取內容的成功率,從 GPT-6 Astra 的 54.0% 降到 GPT-6.2 Astra 的 0.2%。
  • 針對目前請求則從 22.9% 降到 0.9%。OpenAI 也正把部分改進帶到 GPT-6 Astra。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

OpenAI 的內部測試顯示,更新防護後,從先前請求和目前請求抽取受保護推理的成功率都大幅下降,呈現防護成效的具體比較。

信源出處the-decoder.com

OpenAI makes it much harder for attackers to extract how its latest AI models think

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: The Decoder (the-decoder.com)
開啟原文

讀者討論

理性交流 · 即時討論