GBRT算法，全稱梯度提升回歸樹（Gradient Boosting Regression Tree），是一種基於Boosting思想的集成學習算法。它通過疊代地添加新的回歸樹來糾正前一個模型的殘差，從而最佳化預測結果。GBRT的主要特點包括：
集成學習：GBRT結合多個弱學習器（回歸樹）來構建一個強學習器。
前向分布算法：在每一步中，算法選擇一個能最小化損失函式的決策樹函式來擬合當前模型的殘差。
回歸樹：GBRT使用回歸樹作為弱學習器，這些樹共同作用於輸入數據以預測連續的輸出值。
梯度提升：通過計算損失函式在當前模型上的負梯度，將其作為殘差的近似值，用於訓練下一棵回歸樹。
GBRT與GBDT（梯度提升決策樹）和XGBoost等算法相似，但GBRT專注於回歸問題，而GBDT可以用於分類和回歸問題。GBRT在處理數值預測問題時表現出色，但也可能存在過擬合的風險。為了提高模型的泛化能力和計算效率，研究者們開發了如XGBoost這樣的改進版本，它利用了更多的最佳化策略，包括並行計算和二階泰勒展開，從而在保持高精度的同時提高了計算速度。