Gradient

本文介绍了神经网络训练过程中基于梯度的优化算法，包括反向传播、梯度下降法、动量优化算法等。

反向传播（Backpropagation，缩写为BP）是“误差反向传播”的简称，是一种与最优化方法结合使用的，用来训练人工神经网络的常见方法。