最小二乘法是一種數學最佳化技術，其核心思想是尋找最佳函式擬合，使得預測值與實際觀測值之間的誤差平方和最小。對於線性回歸問題，最小二乘法的公式可以通過以下步驟推導：
定義誤差平方和(E)為(E = \sum_{i=1}^{n} (y_i - \hat{y}_i)^2)，其中(y_i)是實際觀測值，(\hat{y}_i)是預測值。
對於線性回歸(y = ax + b)，可以使用最小二乘法來估計參數(a)和(b)。參數(b)的估計值為(\bar{y} - a \times \bar{x})，其中(\bar{y})和(\bar{x})分別是(y)和(x)的均值。
參數(a)的估計可以通過以下公式計算：(a = \frac{N \sum xy - \sum x \sum y}{N \sum x^2 - (\sum x)^2})，其中(N)是數據點的數量。
截距(b)的估計值為(\bar{y} - a \times \bar{x})。
這些公式提供了一種系統的方法來找到最佳擬合直線或曲線的參數，使得預測值與實際觀測值之間的誤差平方和最小。