PCA（Principal Component Analysis，主成分分析）是一種常用的無監督學習方法，主要用於降維和特徵提取。其核心思想是通過正交變換，將原始數據轉換到新的坐標系統中，使得大多數方差落在前幾個坐標軸上，這些坐標軸稱為主成分。PCA的目標是以儘可能少的新變數（主成分）來保留儘可能多的原始數據中的信息。
PCA算法的原理可以概括為以下幾點：
去中心化：首先對數據進行去中心化處理，即每個特徵減去其均值，以確保數據的均值為0。這一步是為了簡化後續的計算過程，並確保數據在各個特徵上的平均值為0。
計算協方差矩陣：然後計算數據的協方差矩陣，這個矩陣描述了不同特徵之間的相關性。
特徵值分解：通過特徵值分解，得到協方差矩陣的特徵值和特徵向量。特徵值表示了對應特徵向量的重要性，而特徵向量則定義了新的坐標軸（主成分）。
選擇主成分：根據特徵值的大小選擇前k個最大的特徵值對應的特徵向量作為新的坐標軸，這些新的坐標軸就是主成分。
投影數據：最後，將數據投影到這些新的坐標軸上，得到降維後的數據。
PCA算法可以通過兩種方法實現：基於特徵值分解和基於奇異值分解（SVD）。這兩種方法在數學上是等價的，但在實際套用中可能會因為計算效率或數值穩定性而有所偏好。
PCA的優點包括能夠減少存儲空間、提高計算效率、去除噪聲和簡化模型。然而，它也有一些局限性，比如可能會丟失一些重要的信息（尤其是當數據在低維空間中分布較為複雜時），並且假設了數據服從高斯分布或近似高斯分布。因此，在使用PCA之前，了解數據的特性和套用場景是非常重要的。