矇眼尋谷:梯度下降的直觀解說
How do you find a valley blindfolded?
重點導讀
梯度下降就像矇眼行走在山谷底部,本文以直觀比喻說明其原理與學習率影響。
- - 梯度:損失函式在各權重方向的斜率,指向上坡,步驟則沿反方向下降。
- - 學習率 (η):決定每一步的距離,過小會緩慢收斂,過大會跳出谷底。
信源出處dev.to
How do you find a valley blindfolded?
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文