FlashAttention 2 v2.8.3.post2 維護更新,修補兩項安全問題與一項計算錯誤
v2.8.3.post2
重點導讀
FlashAttention 2 這次推出維護更新,沒有新增核心功能。
- 更新包含兩項安全修補:載入模型權重時採用較安全的方式,也修正瞭解開 tar 檔案的安全問題。
- 另外,還修正一個可能讓程式讀錯記憶體,或產生 NaN 梯度的計算錯誤。這個錯誤會在特定資料量太大、超過 2^31 時發生。使用 CUDA 13 的 PyTorch,也會改為要求提供預先編譯好的套件。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處github.com
v2.8.3.post2
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: FlashAttention Releases (github.com)
開啟原文