PCA主成分分析原理及应用.docx

《PCA主成分分析原理及应用.docx》由会员分享，可在线阅读，更多相关《PCA主成分分析原理及应用.docx（22页珍藏版）》请在三一文库上搜索。

1、主元分析(PCA)理论分析及应用什么是 PCA?PCA 是 Principal component analysis 的缩写，中文翻译为主元分析/主成分分析。它是一种对数据进行分析的技术，最重要的应用是对原有数据进行简化。正如它的名字：主元分析，这种方法可以有效的找出数据中最“主要”的元素和结构， 去除噪音和冗余， 将原有的复杂数据降维， 揭示隐藏在复杂数据背后的简单结构。 它的优点是简单， 而且无参数限制， 可以方便的应用与各个场合。 因此应用极其广泛， 从神经科学到计算机图形学都有它的用武之地。 被誉为应用线形代数最价值的结果之一。在以下的章节中，不仅有对PCA 的比较直观的解释，同时也配

2、有较为深入的分析。首先将从一个简单的例子开始说明 PCA 应用的场合以及想法的由来，进行一个比较直观的解释；然后加入数学的严格推导，引入线形代数，进行问题的求解。 随后将揭示PCA 与 SVD(Singular Value Decomposition) 之间的联系以及如何将之应用于真实世界。最后将分析PCA 理论模型的假设条件以及针对这些条件可能进行的改进。一个简单的模型在实验科学中我常遇到的情况是，使用大量的变量代表可能变化的因素，例如光谱、电压、速度等等。但是由于实验环境和观测手段的限制，实 验数据往往变得极其的复杂、 混乱和冗余的。 如何对数据进行分析， 取得隐藏在 数据背后的变量关系，

3、是一个很困难的问题。在神经科学、气象学、海洋学等等 学科实验中，假设的变量个数可能非常之多，但是真正的影响因素以及它们之间 的关系可能又是非常之简单的。下面的模型取自一个物理学中的实验。它看上去比较简单，但足以说明问题。如图表1所示。这是一个理想弹簧运动规律的测定实验。假设球是连接在一个无质量无摩擦的弹簧之上，从平衡位置沿 轴拉开一定的距离然后 释放。图表1对于一个具有先验知识的实验者来说，这个实验是非常容易的。球的运动只是在x轴向上发生，只需要记录下 轴向上的运动序列并加以分析即可。但是，在真实世界中，对于第一次实验的探索者来说（这也是实验科学中最常遇到的一种情况），是不可能进行这样的假设的

4、。那么，一般来说，必须记录下球的三维位置。这一点可以通过在不同角度放置三个摄像机实现 （如图所示），假设以 的频率拍摄画面，就可以得到球在空间中的运动序列。但是，由于实验的限制，这三台摄像机的角度可能比较任意，并不是正交的。事实上，在真实世界中也并没有所谓的 轴，每个摄像机记录下的都是一幅二维的图像，有其自己的空间坐标系，球的空间位置是由一组二维坐标记录的： 。经过实验，系统产生了几分钟球的位置序列。怎样从这些数据中得到球是沿着某个轴运动的规律呢？怎样将实验数据中的冗余变量剔除，化归到这个潜在的 轴上呢？这是一个真实的实验场景，数据的噪音是必须面对的因素。在这个实验中噪音可能来自空气、 摩擦、

5、 摄像机的误差以及非理想化的弹簧等等。 噪音使数据变得混乱， 掩盖了变量间的真实关系。 如何去除噪音是实验者每天所要面对的巨大考验。上面提出的两个问题就是PCA 方法的目标。PCA 主元分析方法是解决此类问题的一个有力的武器。 下文将结合以上的例子提出解决方案， 逐步叙述 PCA 方法的思想和求解过程。线形代数：基变换从线形代数的角度来看， PCA 的目标就是使用另一组基去重新描述得到的数据空间。 而新的基要能尽量揭示原有的数据间的关系。 在这个例子中，沿着某 轴上的运动是最重要的。 这个维度即最重要的“主元”。PCA 的目标就是找到这样的“主元”，最大程度的去除冗余和噪音的干扰。A. 标准正

6、交基为了引入推导，需要将上文的数据进行明确的定义。在上面描述的实验过程中，在每一个采样时间点上，每个摄像机记录了一组二维坐标 ，综合三台摄像机数据，在每一个时间点上得到的位置数据对应于一个六维列向量。如果以 的频率拍摄10 分钟，将得到 个这样的向量数据。抽象一点来说，每一个采样点数据都是在 维向量空间（此例中 ）的一个向量，这里的 是牵涉的变量个数。由线形代数我们知道，在维向量空间中的每一个向量都是一组正交基的线形组合。最普通的一组正交基是标准正交基， 实验采样的结果通常可以看作是在标准正交基下表示的。 举例来说， 上例中每个摄像机记录的数据坐标为 ，这样的基便是 。那为什么不取 或是其他任

7、意的基呢？原因是，这样的标准正交基反映了数据的采集方式。假设采集数据点是，一般并不会记录 （在 基下），因为一般的观测者都是习惯于取摄像机的屏幕坐标， 即向上和向右的方向作为观测的基准。 也就是说， 标准正交基表现了数据观测的一般方式。在线形代数中，这组基表示为行列向量线形无关的单位矩阵。B. 基变换从更严格的数学定义上来说， PCA 回答的问题是： 如何寻找到另一组正交基， 它们是标准正交基的线性组合，而且能够最好的表示数据集？这里提出了 PCA 方法的一个最关键的假设：线性。这是一个非常强的假设条件。它使问题得到了很大程度的简化： 1)数据被限制在一个向量空间中，能被一组基表示；2)隐含的

8、假设了数据之间的连续性关系。这样一来数据就可以被表示为各种基的线性组合。令 是一个 的矩阵，它的每一个列向量都表示一个时间采样点上的数据 ，在上面的例子中， 。 表示转换以后的新的数据集表示。 是他们之间的线性转换。(1)有如下定义： 表示 的行向量；表示的列向量(或者)；表示 的列向量。公式(1)表示不同基之间的转换，在线性代数中，它表示从到 的转换矩阵。几何上来说， 对 进行旋转和拉伸得到 。的行向量， 是一组新的基，而是原数据在这组新的基表示下得到的重新表示。下面是对最后一个含义的显式说明：注意到的列向量： 可见表示的是 与中对应列的点积，也就是相当于是在对应向量上的投影。 所以， 的行

9、向量事实上就是一组新的基。 它对原数据进行重新表示。在一些文献中，将 数据成为“源”血将变换后的 称为“信号”这是由于变换后的数据更能体现信号 成分的原因。C.问题在线性的假设条件下，问题转化为寻找一组变换后的基，也就是的行向量 ， 这些向量就是PCA中所谓的“主元”问题转化为如下的形式：怎样才能最好的表 示原数据？的基怎样选择才是最好的？解决问题的关键是如何体现数据的特征。那么，什么是数据的特征，如何体 现呢？方差和目标“最好的表示”是什么意思呢？下面的章节将给出一个较为直观的 解释，并增加一些额外的假设条件。在线性系统中，所谓的“混乱数据”通常包含 以下的三种成分：噪音、旋转以及冗余。下面

10、将对这三种成分做出数学上的描述 并针对目标作出分析。A.噪音和旋转噪音对数据的影响是巨大的，如果不能对噪音进行区分，就不可能抽取数据 中有用的信息。噪音的横梁有多种方式，最常见的定义是信噪比(signal-to-noiseratio),或是方差比比较大的信噪比表示数据的准确度高，而信噪比低则说明数据中的噪音成分比较多。那么怎样区分什么是信号，什么是噪音呢？这里假设，变化较大的信息 被认为是信号，变化较小的则是噪音。事实上，这个标准等价于一个低通的滤波 器，是一种标准的去噪准则。而变化的大小则是由方差来描述的。它表示了采样点在平均值两侧的分布，对应于图表2(a)就是采样点云的“胖瘦”。显然的，方

11、差较大，也就是较“宽”较“胖”的分布，表示了采样点 的主要分布趋势，是主信号或主要分量；而方差较小的分布则被认为是噪音或次 要分量2： (a)摄像机A的采集数据。图中黑色垂直直线表示一组正交基的方向。是采样点云在长线方向上分布的方差，而是数据点在短线方向上分布的方差。(b)对的基向量进行旋转使 SNR和方差最大。假设摄像机A拍摄到的数据如图表2（a）所示，圆圈代表采样点， 因为运动理论上是只存在于一条直线上，所以偏离直线的分布都属于噪音。此时 描述的就是采样点云在某对垂直方向上的概率分布的比值。那么，最大限度的揭示原数据的结构和关系，找出某条潜在的，最优的 轴，事实上等价寻找一对空 间的垂直直

12、线（图中黑线表示，也对应于此空间的一组基），使得信噪比尽可能 大的方向。容易看出，本例中潜在的 轴就是图上的较长黑线方向。那么怎样寻 找这样一组方向呢？直接的想法是对基向量进行旋转。如图表2（b）所示，随着这对直线的转动以及方差的变化情况。应于最大值的一组基，就是最优的“主元” 方向。在进行数学中求取这组基的推导之前，先介绍另一个影响因素。B.冗余有时在实验中引入了一些不必要的变量。可能会使两种情况：1）该变量对结果没有影响；2）该变量可以用其它变量表示，从而造成数据冗余。下面对这 样的冗余情况进行分析和分类。low redundancyhigh redundancy图表3:可能冗余数据的频谱

13、图表示。和分别是两个不同的观测变量。（比如例子中的，）。最佳拟合线 用虚线表示。(a)图所示的如图表 3 所示， 它揭示了两个观测变量之间的关系。情况是低冗余的， 从统计学上说， 这两个观测变量是相互独立的， 它们之间的信息没有冗余。而相反的极端情况如 (c)， 和 高度相关， 完全可以用 表示。一般来说，这种情况发生可能是因为摄像机A 和摄像机 B 放置的位置太近或是数据被重复记录了，也可能是由于实验设计的不合理所造成的。那么对于观测者而言，这个变量的观测数据就是完全冗余的，应当去除，只用一个变量就可以表示了。这也就是 PCA 中“降维”思想的本源。C. 协方差矩阵对于上面的简单情况， 可以

14、通过简单的线性拟合的方法来判断各观测变量之间是否出现冗余的情况， 而对于复杂的情况， 需要借助协方差来进行衡量和判断：， 分别表示不同的观测变量所记录的一组值，在统计学中，由协方差的性质可以得到：，且当且仅当观测变量， 相互独立。，当= 。等价的，将， 写成行向量的形式：，协方差可以表示为：那么，对于一组具有 个观测变量，个采样时间点的采样数据将每个观测变量的值写为行向量，可以得到一个 的矩阵：接下来定义协方差矩阵如下：(5)容易发现协方差矩阵性质如下：是一个的平方对称矩阵。对角线上的元素是对应的观测变量的方差。非对角线上的元素是对应的观测变量之间的协方差。协方差矩阵包含了所有观测变量之间的相

15、关性度量。更重要的是，根据前两节的说明，这些相关性度量反映了数据的噪音和冗余的程度。在对角线上的元素越大，表明信号越强，变量的重要性越高；元素越小则表明可能是存在的噪音或是次要变量。在非对角线上的元素大小则对应于相关观测变量 对之间冗余程度的大小般情况下，初始数据的协方差矩阵总是不太好的，表现为信噪比不高且变量间相关度大。 PCA 的目标就是通过基变换对协方差矩阵进行优化， 找到相关“主元”。那么，如何进行优化？矩阵的那些性质是需要注意的呢？D. 协方差矩阵的对角化总结上面的章节，主元分析以及协方差矩阵优化的原则是： 1)最小化变量冗余，对应于协方差矩阵的非对角元素要尽量小；2)最大化信号，对

16、应于要使协方差矩阵的对角线上的元素尽可能的大。因为协方差矩阵的每一项都是正值，最小值为 0 ，所以优化的目标矩阵 的非对角元素应该都是0，对应于冗余最小。所以优化的目标矩阵应该是一个对角阵。 即只有对角线上的元素可能是非零值。同时， PCA 假设 所对应的一组变换基必须是标准正交的，而优化矩阵 对角线上的元素越大，就说明信号的成分越大，换句话就是对应于越重要的“主元”。对于协方差矩阵进行对角化的方法很多。根据上面的分析，最简单最直接的算法就是在多维空间进行搜索。和图表2(a)的例子中旋转的方法类似：1) 在 维空间中进行遍历，找到一个方差最大的向量，令作。2) 在与 垂直的向量空间中进行遍历，

17、找出次大的方差对应的向量，记作。3) 对以上过程循环，直到找出全部的向量。它们生成的顺序也就是“主元”的排序。这个理论上成立的算法说明了 PCA 的主要思想和过程。 在这中间， 牵涉到两个重要的特性：a)转换基是一组标准正交基。这给PCA的求解带来了很大的好处， 它可以运用线性代数的相关理论进行快速有效的分解。这些方法将在后面提到。b）在PCA的过程中，可以同时得到新的基向量所对应的“主元排序”，利用这个 重要性排序可以方便的对数据进行光顺、简化处理或是压缩。A. PCA的假设和局限PCA的模型中存在诸多的假设条件，决定了它存在一定的限制，在有些场合 可能会造成效果不好甚至失效。对于学习和掌握

18、 PCA来说，理解这些容是非常 重要的，同时也有利于理解基于改进这些限制条件的PCA的一些扩展技术。PCA的假设条件包括：1 .线形性假设。如同文章开始的例子，PCA的部模型是线性的。这也就决定了它能进行 的主元分析之间的关系也是线性的。现在比较流行的kernel-PCA的一类方法就是使用非线性的权值对原有 PCA技术的拓展。2 .使用中值和方差进行充分统计。使用中值和方差进行充分的概率分布描述的模型只限于指数型概率分布 模型。（例如高斯分布），也就是说，如果我们考察的数据的概率分布并 不满足高斯分布或是指数型的概率分布，那么PCA将会失效。在这种模型下，不能使用方差和协方差来很好的描述噪音和

19、冗余，对教化之后的协方 差矩阵并不能得到很合适的结果。事实上，去除冗余的最基础的方程是:其中代表概率分布的密度函数。基于这个方程进行冗余去除的方法被称作独立主 元分析（ICA）方法（Independent Component Analysis ）。不过，所幸的是，根据中 央极限定理，现实生活中所遇到的大部分采样数据的概率分布都是遵从高斯分布 的。所以PCA仍然是一个使用于绝大部分领域的稳定且有效的算法。3 .大方差向量具有较大重要性PCA方法隐含了这样的假设：数据本身具有较高的信噪比，所以具有最 高方差的一维向量就可以被看作是主元，而方差较小的变化则被认为是噪 音。这是由于低通滤波器的选择决定

20、的。4 .主元正交PCA方法假设主元向量之间都是正交的，从而可以利用线形代数的一系 列有效的数学工具进行求解，大大提高了效率和应用的围。PCA求解：特征根分解在线形代数中，PCA问题可以描述成以下形式：寻找一组正交基组成的矩阵，有 ，使得 是对角阵。则P的行向量（也就是一组 正交基），就是数据的主元向量。对进行推导：Cr = w 1 1 7M- 1弁一 1 二，W）产 R-lC7 =PJ 界-1定义，则是一个对称阵。对 进行对角化求取特征向量得：则是一个对角阵而则是对称阵的特征向量排成的矩阵。这里要提出的一点是，是一个的矩阵，而它将有 个特征向量。其 中是矩阵的秩。如果，则即为退化阵。此时分解

21、出的特征向量不能覆盖整个空 问。此时只需要在保证基的正交性的前提下，在剩余的空间中任意取得维正交向量填充 的空格即可。它们将不对结果造成影响。因为此时对应于这些特征向 量的特征值，也就是方差值为零。求出特征向量矩阵后我们取，则，由线形代数可知矩阵 有性质， 从而进行如下计算：? 1=-P(PrDP)Pr匐一1二叱)口叱)河-1箝-1可知此时的就是我们需要求得变换基。至此我们可以得到 PCA的结果：的主元即是的特征向量，也就是矩阵的行向量。矩阵对角线上第i个元素是数据在方向的方差。我们可以得到PCA求解的一般步骤：1）采集数据形成的矩阵。为观测变量个数，为采样点个数。2）在每个观测变量（矩阵行向

22、量）上减去该观测变量的平均值得到矩阵。3）对进行特征分解，求取特征向量以及所对应的特征根。总结和讨论PCA技术的一大好处是对数据进行降维的处理。我们可以对新求出的“主元”向量的重要性进行排序，根据需要取前面最重要的部分，将后面的维数省去,可以达到降维从而简化模型或是对数据进行压缩的效果。同时最大程度的保持了原有数据的信息在前文的例子中，经过PCA处理后的数据只剩下了一维，也就是弹簧运动的那一维，从而去除了冗余的变量，揭示了实验数据背后的物理原理PCA技术的一个很大的优点是，它是完全无参数限制的。在PCA的计算过程中完全不需要人为的设定参数或是根据任何经验模型对计算进行干预，最后的结果只与数据相

23、关，与用户是独立的。但是，这一点同时也可以看作是缺点。如果用户对观测对象有一定的先验知 识，掌握了数据的一些特征，却无法通过参数化等方法对处理过程进行干预, 可能会得不到预期的效果，效率也不高。图表4:黑色点表示采样数据，排列成转盘的形状 容易想象，该数据的主元是或是旋转角。如图表4中的例子，PCA找出的主元将是 。但是这显然不是最优和最简化的主元。之间存在着非线性的关系。根据先验的知识可知旋转角是最优的主元。则在这种情况下，PCA就会失效。但是，如果加入先验的知识，对数据进行某种划归，就可以将数据转 化为以 为线性的空间中。这类根据先验知识对数据预先进行非线性转换的方法就成为 kernel-

24、PCA,它扩展了 PCA能够处理的问题的围，又可以结合一些先验约束，是比较 流行的方法。有时数据的分布并不是满足高斯分布。如图表5所示，在非高斯分布的情况下，PCA方法得出的主元可能并不是最优的。在寻找主元时不能将方差作为衡量重要性的标准。要根据数据的分布情况选择合适的描述完全分布的变量，然后根据概率分布式来计算两个向量上数据分布的相关性。等价的，保持主元间的正交假设，寻找的主元同样要使。这一类方法被称为独立主元分解（ICA）。图表5:数据的分布并不满足高斯分布，呈明显的十字星状 这种情况下，方差最大的方向并不是最优主元方向。PCA方法和线形代数中的奇异值分解（SVD）方法有在的联系，一定意义

25、上来说，PCA的解法是SVD的一种变形和弱化。对于 的矩阵，通过奇异值分解可以直接得到如下形式:其中 是一个 的矩阵， 是一个 的矩阵，而是 的对角阵。 形式如下：其中 ，是原矩阵的奇异值。由简单推导可知，如果对奇异值分解加以约束：的向量必须正交， 则矩阵 即为 PCA 的特征值分解中的 ， 则说明 PCA 并不一定需要求取，也可以直接对原数据矩阵进行SVD奇异值分解即可得到特征 向量矩阵，也就是主元向量。计算机视学领域的应用PCA 方法是一个具有很高普适性的方法， 被广泛应用于多个领域。这里要特别介绍的是它在计算机视觉领域的应用， 包括如何对图像进行处理以及在人脸识别方面的特别作用。A. 数

26、据表示如果要将 PCA 方法应用于视觉领域， 最基本的问题就是图像的表达。 如果是一幅 大小的图像，它的数据将被表达为一个维的向量：在这里图像的结构将被打乱，每一个像素点被看作是一维，最直接的方法就是将图像的像素一行行的头尾相接成一个一维向量。还必须要注意的是，每一维上的数据对应于对应像素的亮度、灰度或是色彩值，但是需要划归到同一纬度上。B.模式识别假设数据源是一系列的20幅图像，每幅图像都是大小，那么它们都可以表 示为一个 维的向量。将它们排成一个矩阵：f泅G萍物门工二咖孽值lageecl .胡口g国历120)然后对它们进行PCA处理，找出主元。为什么这样做呢？据人脸识别的例子来说， 数据源

27、是20幅不同的人脸图像，PCA方法的实质是寻找这些图像中的相似的维度，因为人脸的结构有极大的相似性(特别是同一个人的人脸图像)，则使用PCA方法就可以很容易的提 取出人脸的在结构，也及时所谓“模式”，如果有新的图像需要与原有图像比 较，就可以在变换后的主元维度上进行比较，则可衡量新图与原有数据集的 相似度如何。对这样的一组人脸图像进行处理，提取其中最重要的主元，即可大致描述人 脸的结构信息，称作“特征脸”(EigenFace)。这就是人脸识别中的重要方法“特 征脸方法”的理论根据。近些年来，基于对一般 PCA方法的改进，结合ICA、 kernel-PCA等方法，在主元分析中加入关于人脸图像的先

28、验知识，则能得到更好的效果。C.图像信息压缩使用PCA方法进行图像压缩，又被称为 Hotelling算法，或者Karhunen and Leove(KL度换。这是视觉领域图像处理的经典算法之一。 具体算法与上述过程相同， 使用PCA 方法处理一个图像序列，提取其中的主元。 然后根据主元的排序去除其中次要的分量，然后变换回原空间，则图像序列因为维数降低得到很大的压缩。 例如上例中取出次要的 5 个维度， 则图像就被压缩了 1/4但是这种有损的压缩方法同时又保持了其中最“重要”的信息，是一种非常重要且有效的算法。参考文献1 Lindsay I Smith. (2002) “A tutorial o

29、n Principal Components Analysis ”2 Jonathon Shlens. (2005) “A Tutorial on Principal Component Analysis ”3 ?Will, Todd (1999) “ Introduction to the Singular ValueDecomposition ” DavidsonCollege. .davidson.edu/academic/math/will/svd/index.html4 Bell, Anthony and Sejnowski, Terry. (1997) “The Independe

30、ntComponents of NaturalScenes are EdgeFilters.” Vision Research 37(23),3327-3338.5 T.F. Cootes and C.J.Taylor (2004)“ Statistical Models of Appearance for Computer Vision ”.isbe.man.ac.uk/bim/Models/app_models.pdf6 翠平 苏光大（2000） “人脸识别技术综述”中国图像图形学报第五卷A 版第11期7 何国辉 甘俊英（2006） PCA类平均脸法在人脸识别中的应用研究”计算 机应用研究

31、2006年第三期8 牛丽平 付仲良 魏文利（2006） “人脸识别技术研究”电脑开发与应用 2006年第五期9 Wikipedia “principal components analysis ” 词条解释 From Answers.PCA主成分分析计算步骤.主成分分析 （Principal Component Analysis , PCA ）是一种掌握事物主要矛盾的统计分析方法，它可以从多元事物中解析出主要影响因素，揭示事物的本质，简化复杂的问题。计算主成分的目的是将高维数据投影到较低维空间。给定n个变量的 m个观察值，形成一个 n m的数据矩阵，n常常比较大。对于一个由多个变量描述的复杂事

32、物，人们难以认识，那么是否可以抓住事物主要方面进行重点分析呢？如果事物的主要方面刚好体现在几个主要变量上，我们只需要将这几个变量分离出来，进行PCA就是这样详细分析。但是，在一般情况下，并不能直接找出这样的关键变量。这时我们可以用原有变量的线性组合来表示事物的主要方面， 种分析方法。PCA的目标是寻找 r ( rn )个新变量，使它们反映事物的主要特 征，压缩原有数据矩阵的规模。每个新变量是原有变量的线性组合，体现原有变量的综合效果，具有一定的实际含义。这 r个新变量称为“主成分”，它们可以在很大程度上反映原来n个变量的影响，并且这些新变量是互不相关的，也是正交的。通过主成分分析，压缩数据空间

33、，将多元数据的特征在低维空间里直观地表示出来。例如，将多个时间点、多个实验条件下的基因表达谱数据(N维)表示为 3维空间中的一个点，即将数据的维数从 RN降到R3 。在进行基因表达数据分析时，一个重要问题是确定每个实验数据是否是独立的，如果每次实验数据之间不是独立的，则会影响基因表达数据分析结果的准确性。对于利用基因芯片所检测到的基因表达数据，如果用PCA方法进行分析，可以将各个基因作为变量，也可以将实验条件作为变量。当将基因作为变量时，通过分析确定一组“主要基因元素”，它们能够很好地说明基因的特征，解释实验现象；当将实验条件作为变量时，通过分析确定一组“主要实验因素”，它们能够很好地刻画实验

34、条件的特征，解释基因的行为。下面着重考虑以实验条件作为变量的PCA分析方法。假设将数据的维数从 R N降到R 3 ,具体的 PCA分析步骤如下：(1)第一步计算矩阵 X的样本的协方差矩阵S :(2)第二步计算协方差矩阵 S的本征向量 e1,e2,eN的本征值,i =1,2，,N 。本征值按大到小排序：；(3)第三步投影数据到本征矢成的空间之中，这些本征矢相应的本征值为。现在数据可以在三维空间中展示为云状的点集。对于PCA ,确定新变量的个数r是一个两难的问题。我们的目标是减小r ,如果r小，则数据的维数低，便于分析，同时也降低了噪声，但 可能丢失一些有用的信息。究竟如何确定r呢？这需要进一步分析每个主元素对信息的贡献。令 代表第i个特征值，定义第 i个主元素的贡献率为：(8-45)前r个主成分的累计贡献率为：(8-46)贡献率表示所定义的主成分在整个数据分析中承担的主要意义占多大的比重，当取前 r个主成分来代替原来全部变量时，累计贡献率的大小反 应了这种取代的可靠性，累计贡献率越大，可靠性越大；反之，则可靠性 越小。一般要求累计贡献率达到70%以上。经过PCA分析，一个多变量的复杂问题被简化为低维空间的简单问题。可以利用这种简化方法进行作图，形象地表示和分析复杂问题。在分 析基因表达数据时，可以针对基因作图，也可以针对实验条件作图。前者 称为Q分析，后者称为 R分析。