Weight Decay 0.05:Adam 失靈,AdamW 最佳
Weight Decay 0.05: Catastrophe in Adam, Optimum in AdamW
重點導讀
summary_zh: 作者在 CIFAR‑ResNet18 上測試 Adam 與 AdamW 的 weight_decay,發現 0.05 對 Adam 造成災難性效能下降,而對 AdamW 則達到最佳準確率。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Weight Decay 0.05: Catastrophe in Adam, Optimum in AdamW
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文