梯度下降法的公式可以表示為：
θ = θ − α ∂ J ( θ ) ∂ θ \theta = \theta - \alpha \frac{\partial J(\theta)}{\partial \theta}θ=θ−α∂θ∂J(θ)
其中，α \alphaα 是學習率(Learning Rate)，表示每次更新參數時的步長大小。這個公式的含義是，在參數空間中，我們想要找到函式 J ( θ ) J(\theta)J(θ)的最小值，因此我們需要沿著梯度的反方向（即函式值減小最快的方向）移動參數 θ \thetaθ。每次移動的步長由學習率 α \alphaα 決定。