LOADING

加载过慢请开启缓存 浏览器默认开启

深度学习笔记11

2024/2/6 深度学习笔记 深度学习 优化算法 momentum Adam

72. 优化算法

momentum动量：

image-20240205014954923

image-20240205020618625

image-20240205020734470

的分子对梯度做平滑，分母对梯度各个维度值做重新调整

image-20240205020945995