主成分分析与因子分析及SPSS实现

~ 主成分分析与因子分析及SPSS实现
一、主成分分析
（1）问题提出在问题研究中，为了不遗漏和准确起见，往往会面面俱到，取得大量的指标来进行分析。比如为了研究某种疾病的影响因素，我们可能会收集患者的人口学资料、病史、体征、化验检查等等数十项指标。如果将这些指标直接纳入多元统计分析，不仅会使模型变得复杂不稳定，而且还有可能因为变量之间的多重共线性引起较大的误差。有没有一种办法能对信息进行浓缩，减少变量的个数，同时消除多重共线性？这时，主成分分析隆重登场。（2）主成分分析的原理主成分分析的本质是坐标的旋转变换，将原始的n个变量进行重新的线性组合，生成n个新的变量，他们之间互不相关，称为n个“成分”。同时按照方差最大化的原则，保证第一个成分的方差最大，然后依次递减。这n个成分是按照方差从大到小排列的，其中前m个成分可能就包含了原始变量的大部分方差（及变异信息）。那么这m个成分就成为原始变量的“主成分”，他们包含了原始变量的大部分信息。注意得到的主成分不是原始变量筛选后的剩余变量，而是原始变量经过重新组合后的“综合变量”。我们以最简单的二维数据来直观的解释主成分分析的原理。假设现在有两个变量X1、X2，在坐标上画出散点图如下：可见，他们之间存在相关关系，如果我们将坐标轴整体逆时针旋转45°，变成新的坐标系Y1、Y2，如下图：根据坐标变化的原理，我们可以算出：Y1 = sqrt(2)/2 * X1 + sqrt(2)/2 * X2Y2 = sqrt(2)/2 * X1 – sqrt(2)/2 * X2其中sqrt(x)为x的平方根。通过对X1、X2的重新进行线性组合，得到了两个新的变量Y1、Y2。此时，Y1、Y2变得不再相关，而且Y1方向变异（方差）较大，Y2方向的变异（方差）较小，这时我们可以提取Y1作为X1、X2的主成分，参与后续的统计分析，因为它携带了原始变量的大部分信息。至此我们解决了两个问题：降维和消除共线性。对于二维以上的数据，就不能用上面的几何图形直观的表示了，只能通过矩阵变换求解，但是本质思想是一样的。
二、因子分析（一）原理和方法：因子分析是主成分分析的扩展。在主成分分析过程中，新变量是原始变量的线性组合，即将多个原始变量经过线性（坐标）变换得到新的变量。因子分析中，是对原始变量间的内在相关结构进行分组，相关性强的分在一组，组间相关性较弱，这样各组变量代表一个基本要素（公共因子）。通过原始变量之间的复杂关系对原始变量进行分解，得到公共因子和特殊因子。将原始变量表示成公共因子的线性组合。其中公共因子是所有原始变量中所共同具有的特征，而特殊因子则是原始变量所特有的部分。因子分析强调对新变量（因子）的实际意义的解释。举个例子：比如在市场调查中我们收集了食品的五项指标（x1-x5）:味道、价格、风味、是否快餐、能量，经过因子分析，我们发现了：x1 = 0.02 * z1 + 0.99 * z2 + e1x2 = 0.94 * z1 – 0.01 * z2 + e2x3 = 0.13* z1 + 0.98 * z2 + e3x4 = 0.84 * z1 + 0.42 * z2 + e4x5 = 0.97 * z1 – 0.02 * z2 + e1（以上的数字代表实际为变量间的相关系数，值越大，相关性越大）第一个公因子z1主要与价格、是否快餐、能量有关，代表“价格与营养”第二个公因子z2主要与味道、风味有关，代表“口味”e1-5是特殊因子，是公因子中无法解释的，在分析中一般略去。同时，我们也可以将公因子z1、z2表示成原始变量的线性组合，用于后续分析。（二）使用条件：（1）样本量足够大。通常要求样本量是变量数目的5倍以上，且大于100例。（2）原始变量之间具有相关性。如果变量之间彼此独立，无法使用因子分析。在SPSS中可用KMO检验和Bartlett球形检验来判断。（3）生成的公因子要有实际的意义，必要时可通过因子旋转（坐标变化）来达到。三、主成分分析和因子分析的联系与区别联系：两者都是降维和信息浓缩的方法。生成的新变量均代表了原始变量的大部分信息且互相独立，都可以用于后续的回归分析、判别分析、聚类分析等等。区别：（1）主成分分析是按照方差最大化的方法生成的新变量，强调新变量贡献了多大比例的方差，不关心新变量是否有明确的实际意义。（2）因子分析着重要求新变量具有实际的意义，能解释原始变量间的内在结构。SPSS没有提供单独的主成分分析方法，而是混在因子分析当中，下面通过一个例子来讨论主成分分析与因子分析的实现方法及相关问题。 一、问题提出 男子十项全能比赛包含100米跑、跳远、跳高、撑杆跳、铅球、铁饼、标枪、400米跑、1500米跑、110米跨栏十个项目，总分为各个项目得分之和。为了分析十项全能主要考察哪些方面的能力，以便有针对性的进行训练，研究者收集了134个顶级运动员的十项全能成绩单，将通过因子分析来达到分析目的。 二、分析过程 变量视图： 数据视图（部分）： 菜单选择（分析->降维->因子分析）：

打开因子分析的主界面，将十项成绩选入”变量“框中（不要包含总分），如下： 点击”描述“按钮，打开对话框，选中”系数“和”KMO和Bartlett球形度检验“：

上图相关解释：”系数“：为变量之间的相关系数阵列，可以直观的分析相关性。”KMO和Bartlett球形度检验“：用于定量的检验变量之间是否具有相关性。点击”继续“，回到主界面，点击”抽取“，打开对话框。”方法“ =>”主成分“，”输出“=>”未旋转的因子解“和”碎石图“，”抽取“=>”基于特征值“，其余选择默认。

解释：①因子抽取的方法：选取默认的主成分法即可，其余方法的计算结果可能有所差异。②输出：”未旋转的因子解”极为主成分分析结果。碎石图有助于我们判断因子的重要性（详细介绍见后面）。③抽取：为抽取主成分（因子）的方法，一般是基于特征值大于1，默认即可。点击”继续“，回到主界面，点击”确定“，进入分析。输出的主要表格如下：（1）相关性检验因子分析要求变量之间有相关性，所以首先要进行相关性检验。首先输出的是变量之间的相关系数矩阵：

可以直观的看到，变量之间有相关性。但需要检验，接着输出的是相关性检验： 上图有两个指标：第一个是KMO值，一般大于0.7就说明不了之间有相关性了。第二个是Bartlett球形度检验，P值<0.001。综合两个指标，说明变量之间存在相关性，可以进行因子分析。否则，不能进行因子分析。（2）提取主成分和公因子接下来输出主成分结果：

这就是主成分分析的结果，表中第一列为10个成分；第二列为对应的”特征值“，表示所解释的方差的大小；第三列为对应的成分所包含的方差占总方差的百分比；第四列为累计的百分比。一般来说，选择”特征值“大于1的成分作为主成分，这也是SPSS默认的选择。在本例中，成分1和2的特征值大于1，他们合计能解释71.034%的方差，还算不错。所以我们可以提取1和2作为主成分，抓住了主要矛盾，其余成分包含的信息较少，故弃去。下面，输出碎石图，如下： 碎石图来源于地质学的概念。在岩层斜坡下方往往有很多小的碎石，其地质学意义不大。碎石图以特征值为纵轴，成分为横轴。前面陡峭的部分特征值大，包含的信息多，后面平坦的部分特征值小，包含的信息也小。由图直观的看出，成分1和2包含了大部分信息，从3开始就进入平台了。接下来，输出提取的成分矩阵：

上表中的数值为公因子与原始变量之间的相关系数，绝对值越大，说明关系越密切。公因子1和9个运动项目都正相关（注意跑步运动运动的计分方式，时间越短，分数越高），看来只能称为“综合运动”因子了。公因子2与铁饼、铅球正相关，与1500米跑、400米跑负相关，这究竟代表什么意思呢？看来只能成为“不知所云”因子了。（三）因子旋转前面提取的两个公因子一个是大而全的“综合因子”，一个不知所云，得到这样的结果，无疑是分析的失败。不过，不要灰心，我们可以通过因子的旋转来获得更好的解释。在主界面中点击“旋转”按钮，打开对话框，“方法”=>“最大方差法”，“输出”=>“旋转解”。

点击“继续”，回到主界面点击“确认”进行分析。输出结果如下： 这是选择后的成分矩阵。经过旋转，可以看出：公因子1得分越高，所有的跑步和跨栏成绩越差，而跳远、撑杆跳等需要助跑类项目的成绩也越差，所以公因子1代表的是奔跑能力的反向指标，可称为“奔跑能力”。公因子2与铁饼和铅球的正相关性很高，与标枪、撑杆跳等需要上肢力量的项目也正相关，所以该因子可以成为“上肢力量”。经过旋转，可以看出公因子有了更合理的解释。（四）结果的保存在最后，我们还要将公因子储存下来供后续使用。点击“得分”按钮，打开对话框，选中“保存为变量”，方法采用默认的“回归”方法，同时选中“显示因子得分系数矩阵”。

SPSS会自动生成2个新变量，分别为公因子的取值，放在数据的最后。同时会输出一个因子系数表格：

由上图，我们可以写出公因子的表达式（用F1、F2代表两个公因子，Z1~Z10分别代表原始变量）：F1 = -0.16*Z1+0.161*Z2+0.145*Z3+0.199*Z4-0.131*Z5-0.167*Z6+0.137*Z7+0.174*Z8+0.131*Z9-0.037*Z10F2同理，略去。注意，这里的变量Z1~Z10，F1、F2不再是原始变量，而是标准正态变换后的变量。

---

陵县13982568782： 如何用spss进行因子分析和主成分分析 - ？
集香盐酸： 方法/步骤 打开SPSS软件,导入数据后,依次点击分析,降维,因子分析.打开因子分析界面之后,把需要进行分析的变量全部选进变量对话框,然后 点击右上角的描述.勾选原始分析结果、KMO检验对话框,然后点击继续.点击抽取,再点击碎石图.点击旋转,再点击最大方差旋转.点击得分,再点击,保存为变量及显示因子得分系数矩阵.最后点确定就可以在输出截面看到主成分因子分析的结果了.

陵县13982568782： 如何用spss做主成分分析和因子分析 - ？
集香盐酸： 如何用SPSS软件进行主成分分析郭显光摘要文章指出《统计分析软件SPSS/PC+》中主成分分析举例中的一处错误,比较了主成分分析和因子分析的异同,进而指出用SPSS软件不能直接进行主成分分析.作者根据主成分分析和因子分析的关...

陵县13982568782： 如何用spss做因子分析和主成分分析 - ？
集香盐酸： 因子分析1输入数据.2点Analyze 下拉菜单,选Data Reduction 下的Factor .3打开Factor Analysis后,将数据变量逐个选中进入Variables 对话框中.4单击主对话框中的Descriptive按扭,打开Factor Analysis: Descriptives子对话框,在Statistics...

陵县13982568782： 如何利用spss进行主成分分析 - ？
集香盐酸： 原发布者:SD_LY_LS主成分分析SPSS操作步骤以教材第五章习题8的数据为例,演示并说明主成分分析的详细步骤:一.原始数据的输入注意事项:关键注意设置好数据的类型(数值?字符串?等等)以及小数点后保留数字的个数即可.二....

陵县13982568782： SPSS中因子分析和主成分分析的区别? - ？
集香盐酸： 因子分析法和主成分2113分析法都是降维处理多变量的回归问题,不同意楼5261上的说法,不是包含的关系.另外主成分4102分析法在SPSS中没有办法直接实现,是通过因子分析来构建模型的.它们的区别还是模型构建体1653系不一样,因子分析是 F=AX; 主成分版分析则是用特征根向量求出的矩阵算出因子得分,与因子分析直接得出的得分是不一样的权.

陵县13982568782： 如何用spss做主成分回归分析 - ？
集香盐酸： 在因子分析时,点击得分-保存因子得分即可, 在回归分析时,将Y输入到dependent,F1 F2输入到indenpendent,下面那位说错了.

陵县13982568782： 主成份分析和因子分析的区别 - ？
集香盐酸： 因子分析与主成分分析的异同点: 都对原始数据进行标准化处理; 都消除了原始指标的相关性对综合评价所造成的信息重复的影响; 构造综合评价时所涉及的权数具有客观性; 在信息损失不大的前提下,减少了评价工作量 公共因子比主成分更容易被解释; 因子分析的评价结果没有主成分分析准确; 因子分析比主成分分析的计算工作量大主成分分析仅仅是变量变换,而因子分析需要构造因子模型. 主成分分析:原始变量的线性组合表示新的综合变量,即主成分; 因子分析:潜在的假想变量和随机影响变量的线性组合表示原始变量.

陵县13982568782： 如何用spss软件做主成分分析?？
集香盐酸： 老大,首先,你上传的图我无法看清. 其次,用SPSS软件做主成分分析也没那么复杂,不过你要钻研一番.下面的说明及举例希望可以对你有帮助: 主成分分析法在SPSS中的操作 1、指标数据选取、收集与录入(表1) 2、Analyze →Data ...

陵县13982568782： 请教SPSS高人,主成份分析和因子分析有什么不同?做主成分分析目的是什么?谢谢 - ？
集香盐酸： 主成分分析可以理解为一种数据的处理理论,也可以理解为一种应用方法.而因子分析则可以理解为一种应用方法,因为做因子分析采用的比较多的就是用主成分分析的方法来浓缩因子.所以 其实所谓的区别只不过是在学科研究当中存在的,因...

陵县13982568782： 主成分分析与因子分析有什么作用 - ？
集香盐酸： 主成分分析和因子分析都是信息浓缩的方法,即将多个分析项信息浓缩成几个概括性指标. 因子分析在主成分基础上,多出一项旋转功能,该旋转目的即在于命名,更容易解释因子的含义.如果研究关注于指标与分析项的对应关系上,或是希望将得到的指标进行命名,SPSSAU建议使用因子分析. 主成分分析目的在于信息浓缩(但不太关注主成分与分析项对应关系),权重计算,以及综合得分计算.如希望进行排名比较,计算综合竞争力,可使用主成分分析. SPSSAU可直接使用这两种方法,支持自动保存因子得分及综合得分,不需要手动计算.