勵志

勵志人生知識庫

什麼是次梯度

梯度的一個泛化概念

次梯度是梯度的一個泛化概念,用於描述一些不可微分函式的值變化程度。

在數學中,次梯度特別適用於那些不完全可微(例如,包含間斷點或不連續點)的函式,次梯度的概念允許在這些函式的非可微點處也有定義,對於凸函式,次梯度是在函式凸區域上定義的,而對於非凸函式,次梯度可能不存在。

次梯度的定義是基於函式的一階逼近,對於可導的點,次梯度退化為普通的梯度,對於不可導的點,次梯度可以看作是一系列可能的「方嚮導數」,這些方嚮導數對應於函式在該點處可能的不同切線。這些切線的斜率就是次梯度,它們共同構成了次微分集合。