機器學習範式
集成學習是一種機器學習範式，它通過構建並結合多個學習器來完成學習任務。
這種方法的目的是提高系統的泛化能力，即系統在不同數據上的表現穩定性。集成學習通常包括以下關鍵步驟：
生成多個「個體學習器」。這些學習器是通過不同的方式訓練的，例如，它們可以是基於不同的算法或者是對同一數據集的不同採樣。
採用特定的策略將這些個體學習器結合起來。這些策略可以是投票法（適用於分類問題），也可以是平均法（適用於回歸問題）。
最終，集成學習綜合所有個體學習器的結果，以產生更準確、更可靠的預測。
集成學習並不限於特定的算法，而是包括多種技術和方法，如Bagging（自助聚合）、Boosting（提升算法）和堆疊法等。Bagging和Boosting是兩種主要的方法，Bagging通過創建多個相同大小的樣本集（即自助樣本）來訓練個體學習器，並讓這些學習器平等投票；Boosting則側重於訓練弱學習器，並給予表現較好的學習器更大的權重。
此外，集成學習廣泛套用於各種機器學習任務中，如分類、回歸和聚類等，通過結合多個相對簡單的模型，集成學習能夠顯著提升整體的預測性能和泛化能力。