1、第六章 因子分析,6.1 因子分析的基本原理与模型 一、因子分析的基本思想基本思想：根据相关性的大小将变量分 组，使得同组内变量间的相关性较高，不同 组间的相关性较低。每组变量代表一个基本 结构，并用一个不可观测的综合变量形式表 示，这个基本结构成为公共因子。此时的原 始变量就可以分解成两部分之和的形式，一,部分是少数几个不可测的所谓公共因子的线 性函数，另一部分是与公共因子无关的特殊 因子。目的：从一些有错综复杂的问题中找出 几个主要因子，每个主要因子代表原始变量 间相互依赖的一种作用。,二、因子分析的基本模型常用的因子分析模型：R型因子分析和Q 型因子分析 （一）R型因子分析模型R型因子分
2、析是对变量作因子分析。R型因子分析中的公共因子是不可直接 观测但又客观存在的共同影响因素，每一个 变量都可以表示成公共因子的线性函数与特,殊因子之和，即 :其中： 称为公共因子， 称为的 特殊因子 矩阵表达式：,且满足： （1） （2） ，即公共因子与特殊因子是 不相关的 （3） ，即各公共因子不相关且方差为1,（4） ，即各个特殊因子不相关，方差不要求相等模型中 称为因子载荷，是第 个变量 在第 个因子上的负荷，如果把变量 看成 维空间中的一个点，则 表示它在坐标轴上的投影，因此矩阵 称为因子载荷矩 阵。,（二）Q型因子分析Q型因子分析是对样品作因子分析。模型同上 注：主成分分析与因子分析的
3、区别主成分分析的数学模型本质上是一种线 性变换，是将原始坐标变换到变异程度大的 方向上去，相当于从空间上转换观看数据的 的角度，突出数据变异的方向，归纳重要信 息。,因子分析与主成分分析一样都属降低变 量维数的方法。但因子分析的本质是从显在 变量去“提炼”潜在因子的过程。模型中应注意的问题： （1）变量 的协方差阵 的分解式为即 （2）因子载荷不是唯一的。,三、因子载荷阵的统计意义 （一）因子载荷 的统计意义 对于因子模型 可知 的协方差若对 作标准化处理， 的标准差为1， 且 的标准差为1 则 （相关系数）,综上可知：对于标准化后的 ， 是的相关系数，一方面表示 的 依赖程度，绝对值越大，密
4、切程度越高；另 一方面也反映了变量 对公共因子 的相 对重要性。 （二）变量共同度的统计意义设因子载荷矩阵为 ，称第 行元素的 平方和，即 为变量 的共同 度。,由因子模型，知即变量 的方差由两部分组成：第一部 分为共同度 ，它描述了全部公共因子对变 量 的总方差所作的贡献，反映了公共因子 对变量 的影响程度。第二部分为特殊因子 对变量 的方差的贡献，通常称为个性方差,如果对变量 作了标准化处理，则 （三）公因子 的方差贡献 的统计意义设因子载荷矩阵 ，称第 列元素的平 方和，即 为公共因子 对 的贡献，即 表示同一公共因子 对各变量 所提供的方差贡献之总和，它是衡量每一个 公共因子相对重要性
5、的一个尺度 。,6.2 因子分析的步骤因子分析的一般步骤可以分为确定因子 载荷矩阵、因子旋转和计算因子得分三步。 一、因子载荷的求解对于因子载荷阵的求解方法有很多，在 这里介绍主成分法和主轴因子法。,（一）、主成分法主成分法确定因子载荷是在进行因子分 析前先对数据进行一次主成分分析。假定从相关矩阵出发求解主成分，设有 个变量，则可以找出 个主成分。将这 个主 成分按大到小顺序排列为 ，则主成 分与原始变量之间存在以下关系：,由于 为随机向量 的相关矩阵的特征 值所对应的特征向量的分量，且特征向量间 彼此正交， 之间的转换关系是可逆的， 由此解出由 得转换关系如下：将上式中每一等式只保留前 个主
6、成分,而把后面的部分用 代替，则：将 转化为合适的公共因子，只需要把 主成分 变成方差为1的变量，即将 除以其 标准差（ ）即可。 于是令,则：需指出：这样得到的 之间并不 独立，因此它并不完全符合因子模型的假设 前提，也就是说所得的因子载荷矩阵并不完 全正确。但是当共同度较大时，特殊因子所 起的作用很小，因而特殊因子间的相关性所 带来的影响几乎可以忽略。,（二）、主轴因子法假定原始变量 已作了标准 化处理， 的相关矩阵 令 则称 为 的约相关阵。中的主对角线元素是 ，非主对角线元素 和 的完全一样，并且 是一个非负定矩阵 记（特点，限制条件）,利用这种方法求得的 的解使得第一公 共因子 的贡
7、献 达到最大，第 二公因子 的贡献 达到次之， ，第m个公共因子 的贡献最小。 即相应的“贡献”依次为 。求解过程：利用极值定理，构造函数求 偏导获得 。,二、因子旋转因子分析的目标之一就是要对所提取的 抽象因子的实际含义进行合理解释。有时直 接根据特征根、特征向量求得的因子载荷阵 难以看出公共因子的含义。例如，可能有些 变量在多个公共因子上都有较大的载荷，有 些公共因子对许多变量的载荷也不小，说明 它对多个变量都有较明显的影响作用。这时,需要通过因子旋转的方法，使每一个变量仅 在一个公共因子上有较大的载荷，而在其余 的公共因子上的载荷比较小，至多达到中等 大小。而对于公共因子而言，它在大部分
8、变 量上的载荷较大，在其他变量上的载荷较 小，使同一列上的载荷尽可能地靠近1和0， 两极分离。,因子旋转方法有正交旋转和斜交旋转两类正交旋转是指对载荷矩阵 作一正交变 换，右乘正交矩阵 ，使得 ，旋转后的 公共因子向量为 ,它的各个分量是互不相关的公共因子。这里介绍最大方差旋转法。 令,则 的第j列元素平方的相对方差可定义 为：所谓最大方差旋转法就是选择正交矩阵，使得矩阵 所有m个列元素平方的相对 方差之和 达到最大。,三、因子得分在因子分析模型 中，如果不考 虑特殊因子的影响，当 可逆时，可 以非常方便地从每一个样品的指标取值 计 算出其在因子 上的相应取值： ，即 该样品在因子 上的“得分
9、”情况，简称为该 样品的因子得分。,但因子分析模型在实际应用中要求 因此不能精确计算出因子的得分情况，只能 对因子得分进行估计，通常采用汤姆孙回归 法。假设公共因子可对 个原始变量作回 归，即如果 都标准化了，回归的常数项为 0，即,由因子载荷的统计意义知，对于任意的都有记 为因子得分系数矩阵，则上式可写成矩阵形式为,于是 即得因子得分的估算式 其中 的相关系数矩阵，一般 为标准 化变量。,6.3 实例分析 例6.1 为研究消费者对购买牙膏的偏好程 度，通过市场拦截访问，用7级量表询问受访 者对以下陈述的认同程度（1表示非常不满 意，7表示非常同意）。 V1：购买预防蛀牙的牙膏是重要的 V2：
10、我喜欢使牙齿亮泽的牙膏 V3：牙膏应当保护牙龈,V4：我喜欢使口气清新的牙膏 V5：预防坏牙不是牙膏提供的一项重要利益 V6：购买牙膏时最重要的考虑是富有魅力的牙膏,例6.2 2001年我国其中的31个省、市和自治 区的城镇居民家庭平均每人全年消费性支出 （单位：元）的8个主要变量数据是x1(食 品)、x2（衣着）、x3（家庭设备用品及服 务）、x4（医疗保健）、x5（交通和通 信）、x6（娱乐教育文化服务）、x7（居 住）、x8（杂项商品和服务）。,使用因子分析方法对不同地区进行综合 评价。（可以根据因子得分系数矩阵，求出 各地区的因子得分，从而对全国31个省、市 和自治区的城镇居民的生活水平进行简要的 综合评价。 ,其中 为因子得分系数矩 阵， 为标准化变量）,
