支持向量機
SVM算法（支持向量機）是一種強大的監督學習算法，主要用於分類和回歸分析。它的核心思想是通過找到一個最優超平面來分隔不同的類別，這個超平面能夠最大化地遠離訓練數據中的樣本點。SVM通過使用核技巧，能夠處理非線性可分的數據，通過將數據映射到高維空間，使得原本線性不可分的樣本在高維空間中變得線性可分。
SVM的訓練過程中，會尋找那些距離超平面最近、對分類邊界影響最大的樣本點，這些樣本點被稱為支持向量。SVM的學習策略是間隔最大化，這可以形式化為一個凸二次規劃問題，或者等價於正則化的合頁損失函式的最小化問題。
SVM的發展基於統計學習理論，它使用核函式方法將非線性可分的特徵向量映射到高維空間，從而能夠在高維空間中找到一個最優的分類超平面。SVM的性能在很大程度上取決於所選擇的核函式，因為核函式決定了模型能夠學習的函式空間。
SVM算法的優點包括對高維數據的處理能力、能夠處理非線性問題、以及在訓練過程中能夠自動選擇哪些特徵對分類最為重要。然而，SVM也有其局限性，如對於非線性問題可能需要複雜的核函式選擇、對於大規模數據集的訓練可能會比較耗時等。