K最近鄰算法
KNN(K-Nearest Neighbor，K最近鄰算法)是一種基礎且套用廣泛的機器學習算法。
KNN算法的主要思想是根據「近朱者赤，近墨者黑」的原則，一個樣本如果在其特徵空間中最接近的K個樣本中大多數屬於某一個類別，那麼這個樣本也屬於這個類別。KNN算法主要用於分類和回歸問題，通過測量不同特徵值之間的距離來進行分類。它是一種基於實例的學習方法，也被稱為懶惰學習，因為在訓練階段通常不進行任何計算，而是在收到測試樣本後才開始進行處理。KNN的優點是簡單易懂、易於實現，但缺點包括在特徵空間維度較高時計算量大，以及需要選擇合適的K值。