选择主成分(PC)的经典方法
需要回顾的是,主成分(PC)的特征值代表了该主成分“解释”了原始数据中多少方差,而最大化方差之所以重要,是因为它能提供关于原始数据最多的“信息”。 因此,选择主成分子集的最简单方法之一,就是直接选取前 k 个特征值最大的主成分,其中 k 的选择并无明确标准。这背后的原因无非是:这些主成分能解释数据中最大的方差。
若稍增加一点复杂度,下一种选择方法是保留所有特征值大于1的主成分。这有时被称为“凯泽规则”、“凯泽准则”或“凯泽-古特曼规则”。 其理论依据可追溯至以下事实:对于标准化数据,每个原始变量的方差均等于1。因此,特征值大于1的主成分所解释的变异性,比原始数据中单个变量所解释的变异性更多。 该方法虽合乎逻辑,但未能考虑到这样一个事实:即便是随机数据(噪声),PCA 也会定义出特征值大于 1 的成分。在这种情况下,成分所解释的方差实际上并无实际意义,因为它仅仅是随机误差或噪声所导致的方差。平行分析通过反复的数据模拟来克服这一挑战。
另一种选择主成分的经典方法是考察每个主成分解释的总方差所占的百分比。 主成分(PC)的特征值代表该成分解释的方差量,而数据中的总方差可表示为所有主成分特征值的总和。因此,可以通过将每个成分的特征值除以所有特征值的总和,来计算该成分解释的方差百分比。用数学公式表示:
第 n 个主成分(PCn)解释的方差百分比 = [(PCn 的特征值)/(所有特征值的和)]*100
在本指南其他部分提到的示例中,我们共有两个主成分(PC1 和 PC2),其特征值分别为 1.902 和 0.098。 根据该公式,PC1和PC2解释的方差百分比分别为95.11%和4.89%(这两项主成分累计解释了100%的总方差)。 通过设定一个预先确定的阈值(通常为总解释方差的 75% 或 80%),可以选出前 k 个主成分,这些主成分累计解释的方差至少达到该阈值,作为成分子集。 然而,与其他经典方法一样,这种选择方法无法解释数据中可能由随机误差或噪声引起的方差。