最陡下降法

最陡下降法，通常也被稱為梯度下降法，是一種用於找到函式局部極小值的一階最最佳化算法。其工作原理是，在每一步疊代中，向函式上當前點對應梯度的反方向移動一定步長，以實現函式值的減小。如果向梯度的正方向移動，則會接近函式的局部極大值點，這個過程則被稱為梯度上升法。

最陡下降法的套用非常廣泛，包括但不限於維納濾波器的參數更新、線性最小均方(LMS)算法和遞歸最小二乘(RLS)算法等。