勵志

勵志人生知識庫

偏最小二乘法

偏最小二乘法是一種數學最佳化技術,它通過最小化誤差的平方和找到一組數據的最佳函式匹配。偏最小二乘回歸方法指的是提供一種多對多線性回歸建模的方法,用最簡的方法求得一些絕對不可知的真值,而令誤差平方之和為最小。很多其他的最佳化問題也可通過最小化能量或最大化熵用最小二乘形式表達。偏最小二乘法是集主成分分析、典型相關分析和多元線性回歸分析3種分析方法的優點於一身的統計分析方法。

偏最小二乘回歸≈多元線性回歸分析+典型相關分析+主成分分析。與傳統多元線性回歸模型相比,偏最小二乘回歸的特點是:允許在樣本點個數少於變數個數的條件下進行回歸建模;偏最小二乘回歸在最終模型中將包含原有的所有自變數;偏最小二乘回歸模型更易於辨識系統信息與噪聲(甚至一些非隨機性的噪聲);在偏最小二乘回歸模型中,每一個自變數的回歸係數將更容易解釋。

偏最小二乘法可以較好的解決許多以往用普通多元回歸無法解決的問題。最典型的問題就是自變數之間的多重相關性。如果採用普通的最小二乘方法,變數多重相關性就會嚴重危害參數估計,擴大模型誤差,並破壞模型的穩定性。而偏最小二乘法可以在自變數之間存在多重相關性的條件下進行回歸建模,更好地克服變數多重相關性在系統建模中的不良作用,因此在經濟管理、教育學、社會科學、醫學等領域得到了廣泛的套用。