BP算法，全稱反向傳播算法，是一種監督學習下的多層神經網路訓練算法，主要用於訓練神經網路模型。它是在1986年由Rumelhart、Hinton和Williams提出的。BP算法的核心在於利用梯度下降法最佳化誤差函式，通過不斷地調整網路中的權重和偏置，使網路的輸出接近預期的輸出。
BP算法的訓練過程主要包括以下幾個步驟：
初始化權重和偏置。網路參數（權重和偏置）可以通過隨機初始化或根據經驗設定初始值。
前向傳播。輸入數據通過網路，逐層計算每個神經元的輸出值，直至輸出層產生網路的預測輸出。
計算誤差。比較預測輸出與實際輸出，計算兩者之間的誤差。常用的誤差函式包括均方誤差(MSE)和交叉熵誤差函式。
反向傳播。根據鏈式法則，將誤差從輸出層反向傳播至輸入層，利用誤差信息調整各層的權重和偏置。
疊代更新。通過多次疊代，反覆執行前向傳播、計算誤差、反向傳播和參數更新的步驟，直到達到預定的學習目標或設定的最大疊代次數。
BP算法的學習過程由信號的正向傳播與誤差的反向傳播兩個過程組成。正向傳播時，輸入樣本從輸入層進入網路，經隱層逐層傳遞至輸出層，如果輸出層的實際輸出與期望輸出不同，則轉至誤差反向傳播。反向傳播時，將輸出誤差按原通路反傳計算，通過隱層反向，直至輸入層，在反傳過程中將誤差分攤給各層的各個單元，獲得各層各單元的誤差信號，並將其作為修正各單元權值的根據。