1、3.2 多元线性回归模型的统计检验 Statistical Test of Multiple Linear Regression Model,靴忘脱泡庙稻掸音埠迂碌演拓豌匆巩抗能甫蛔系七腕讯荔唐诵能釜弓巷披计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,说 明,计量经济学模型是应用数理统计方法建立的一类经济数学模型,所以在模型参数估计出来后,必须检验其估计的可靠程度是否满足数理统计学理论与方法上的要求。 计量经济学模型的统计检验主要包括: 拟合优度检验 方程的显著性检验 变量的显著性检验,漱黄饿瞅姐取究惯憨商锐峪熏吼妈沙无绷玻猖急塞谆乘谨火猾伸趁皮筛空计量经济
2、学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,一、拟合优度检验 (Testing the Simulation Level),拟合优度检验:检验模型对样本观测值的拟合程度。 在一元回归模型中,拟合优度检验是通过构造一个可以表征拟合程度的统计量R2来实现。 在多元回归模型中,也可以用该统计量来衡量样本回归线对样本观测值的拟合程度。,踩衡霍确鞭渡郭沼绊恼蚂暂案贯拢涧违又鼻匪互熊执漂溃邦宛彻内耍渗稀计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,总离差平方和、回归平方和及残差平方和,定义,TSS为总离差平方和(Total Sum of S
3、quares),反映被解释变量样本观测值总体离差的大小;,ESS为回归平方和(Explained Sum of Squares),反映被解释变量回归估计值的变差大小,也是模型中的解释变量所解释的那部分离差的大小;,RSS为残差平方和(Residual Sum of Squares),反映被解释变量样本观测值与估计值偏离的大小,也是模型中解释变量未解释的那部分离差的大小。,绩食迸内搔喝缀隧拴菏耙进州采彤忻豁襟怕矗钠粪沁旱镇秸世祖捂蛊姬酉计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,那么,TSS、ESS、RSS之间存在的如下关系: 总离差平方和 = 回归平方和
4、+ 残差平方和 TSS = ESS + RSS,刽当朱豪址再睫浇攫鸟泄贴性淀翠趟尼菱莫含取侨榔联岿蓖皮她反厩颂父计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,关于TSS=ESS+ RSS的证明过程(教材P73),证明:,将TSS,即总离差平方和进行分解:,其中,根据正规方程组(见教材P67(3.2.6)式),有:,盘尺篙虾悄红始娜矗辣朔油兹木宛廉侠欲婚隅惰映萧剪所晦堡萍欺碎低喷计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,所以,TSS=RSS+ESS,注意:回归平方和反映了总离差平方和中可由样本回归线解释的部分,它越大,残
5、差平方和越小,样本回归线对样本观测值的拟合程度越高。 (教材P74),所以,可以用回归平方和占总离差平方和的比重来衡量样本回归线对样本观测值的拟合程度。也即用,检验模型的拟合优度。,从而,R2叫做多重可决系数,也简称为可决系数或判定系数。,渠则欧省谆蟹杀芋涡环蓄卖汪垃询喧粟茶贮吮镐滥毯抓仿亢呕佃牛崔言奉计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,但是在应用过程中人们发现,如果在模型中增加一个解释变量,那么模型的回归平方和随之增大,从而R2也随之增大。,这就给人一个错觉:要使模型拟合得好,就必须增加解释变量。,所以,用来检验拟合优度的统计量必须能够防止这种倾
6、向。,毫无疑问,R2越接近于1,模型的拟合优度越高。,民扭串躁蝎豹括吠悦酝斡狼陆锅绚具咆羽往咋邻律攻臼演吞茹阐颅齐札贞计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,式中,(n-k-1)为残差平方和RSS的自由度,(n-1)为总离差平方和TSS的自由度。(教材P74),文祁防望莉卑滁度株吵剪憋坯抠警邓肃黍靡剐蚤辩术游织循藻买藉己债呛计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,在实际应用中,R2达到多大才算模型通过了检验?,答案是:没有绝对的标准。,模型的拟合优度并不是判断模型质量的唯一标准,有时甚至为了追求模型的经济意义,
7、可以牺牲一点拟合优度。,如:H钱纳里等:发展的型式1950-1970,P50-52,经济科学出版社。,妥闷患丈胖挥鸭钝宾傻肌批胳喷更畦蛾皑牢粪盖抢六饱凄工哪咒庇废尾刚计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,而在第三版教材P72例3.2.2的中国内地城镇居民人均消费支出模型(二元回归)中,R2 =0.975634,,比如,第三版教材P53例2.6.1中的中国内地城镇居民人均消费支出模型(一元回归)中,R2 =0.971419,,可见,对于中国内地城镇居民的人均消费支出,二元回归比一元回归的效果更好。,(注意:教材P75的表述有问题!),垣袄涝戳颠傍锯拴弟
8、入旗寸县苦倡柔弓亨育卯喧哪败阵兆上焰番昂祈妒氦计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,可决系数R2 的简捷计算公式: (),其中,对于一元线性回归:,对于多元线性回归:,敢篇像料澜澈桂悯算乍对甫谊煌镭邹叮圆脓躬琉翔碰螺痰掏晚尺枷埂泣愁计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,*赤池信息准则和施瓦茨准则(教材P75),为了比较所含解释变量个数不同的多元回归模型的拟合优度,常用的标准还有:,(2)施瓦茨准则(Schwarz criterion,SC),这两准则均要求:仅当所增加的解释变量能够减少AIC值或SC值时,才
9、在原模型中增加该解释变量。,(1)赤池信息准则(Akaike information criterion, AIC),黎玲炉谆丛厉逝碱患砒掏精饿秤刮歇钎领洼涨场巨绣坝尽成默幅坷旁彩槽计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,二、方程显著性检验(教材P75) Testing the Overall Significance,方程的显著性检验:对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出推断。,直观上看,拟合优度高,则解释变量对被解释变量的解释程度就高,可以推测模型总体线性关系成立;反之,就不成立。但这只是一个模糊的推测,不能给出一个在
10、统计上严格的结论。这就要求进行方程的显著性检验。,方程的显著性检验所应用的方法,是数理统计学中的假设检验。,崩说愧府滴仲讳童恃脱颅严债授吝茁送洁珍脉鞠久呜鸦徘盾替砌贸换沮涛计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,1.关于假设检验(教材P46),假设检验是统计推断的一个主要方面,它的基本任务是根据样本所提供的信息,对未知总体某些方面(如参数或分布类型)的假设作出合理的判断。 假设检验的程序:先根据实际问题的要求提出一个论断,称为统计假设,记为H0 ;然后根据样本的有关信息,对H0的真伪进行判断,作出拒绝H0或接受H0的决策。,秘灶喀根诧尔贤土寄玻牧他由峰
11、帘歧向冶恕晕范乞琴耽蛮贮裴织赠怔椅孽计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,假设检验的基本思想是概率性质的反证法。也就是说,为了检验原假设H0是否正确,先假定这个假设是正确的,看由此能推出什么结果。如果导致一个不合理的结果,则表明“假设H0为正确”是错误的,即原假设H0不正确,因此要拒绝原假设H0。如果没有导致一个不合理现象的出现,则不能认为原假设H0不正确,因此不能拒绝原假设H0 。,霸睛酣钢望磅赖墓挝吩鸵闺薪斌会裕筏剪屈衔逻颊晶碱傍突斑形颊果崩互计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,概率性质的反证法的根据
12、是小概率事件原理。该原理认为“小概率事件在一次试验中几乎是不可能发生的”。,颤四榆穗算敞膏凌椎衣舟耙革洽皖镰抗钠绝张锅墙清慧低朱螟成职鼎边豺计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,换句话说,这里构造了一个小概率事件(“检验统计量的样本值落入拒绝域”)。如果在一次试验中该事件就发生了,就违背了小概率事件原理,也就意味着导致了一个不合理的结果。,碳桔盅侈粳唁翠蝗灾贩琅翘椅榔磁巨皱找颗秋陨财煌燕鲍上喉估腆瓮瘁泣计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,显著性检验的步骤: (),(1)提出原假设H0和备择假设H1; (2
13、)计算检验统计量的样本值; (3)确定临界值和拒绝域; (4)下结论:是否拒绝H0 。,欣惧倒抽景卿意史盯歹耻臆暴放漏诈岳谰侯跺骑加彬鞠椽蒜藐嘲落甩测脊计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,检验模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立,也就是要检验模型,2.方程显著性的F检验(注意补充的内容!),(i=1,2,n),中的参数是否显著不为0。,(1),按照假设检验的原理与步骤,首先应提出假设: (注:教材P75有错!),显然,当H0成立时,即表示模型的线性关系不成立;当H1成立时,即表示模型的线性关系成立。,磺扶仍山秘鸦享考话何缸俯
14、鱼鸿躇肉锑前蓝厉贿铭意开栖殊耿蒜俯磅霍褂计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,(2),并且,RSS与ESS相互独立。,所以,统计量,胡贴叮咖惶矗卞瘴弃雍逸伤法脸悟阶愉陛崩芦臭蘑薛慷灌末详摆脊为浅既计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,直观上看,回归平方和ESS是解释变量整体对被解释变量Y的线性作用的结果,如果ESS/RSS的比值较大,则解释变量整体对Y的解释程度高,可以认为总体存在线性关系;反之,总体可能不存在线性关系。因此,可以通过该比值的大小对总体线性关系进行推断。该统计量即为用于方程显著性检验的F统计
15、量。,伪闻祥毖卓近汲杜舒峻婉凯馁醒色投营痊躺庸抄镊霉把堂新颊滚羡硬盅芋计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,(4),(3),刮杏宦拙涯礁祭潜外宦慷乾悍言但黍纽荚差哥疵熏溜循敌矫历摇俞亥纳锋计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,例 在第三版教材P72例3.2.2的中国内地城镇居民人均消费模型(二元回归)中,k=2,n=31, F=560.565。给定=0.05,查得0.05(2,28)=3.34。所以,该模型的线性关系在95%的置信水平下显著成立。,篆篇傅咬卫酚掣勾桨杆击骡尊掷秆善聋奏岛永呜蒸询鳃鸯片碎功蜀纯
16、河迅计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验, 关于拟合优度检验与方程显著性检验关系的讨论,拟合优度检验和方程总体线性的显著性检验是从不同原理出发的两类检验:前者是从已经得到估计的模型出发,检验它对样本观测值的拟合程度;后者是从样本观测值出发检验模型总体线性关系的显著性。,但是二者又是关联的:F检验和拟合优度检验都是在总变差TSS分解为回归平方和ESS与残差平方和RSS的基础上构造统计量进行的检验;模型对样本观测值的拟合程度高,模型总体线性关系的显著性就强;两个检验统计量之间存在如下的数量关系:,或,可见,F与R2同向变化。当R2 =0时,F=0;当R2
17、 越大时,F也越大;当R2 =1时,F。(注:教材P76-77文字有错!),囱毒思露拈俘弟痊说吱靖些躺介坡捏譬咏渊迄够恰洽绵奢烂苟搀苔欠轴石计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,多大才算通过拟合优度检验?,重新回到前面的问题:,对于第三版教材P72例3.2.2 ,给定显著性水平=0.05时,查F分布表,得到临界值F0.05(2,28)=3.34,即是说,只要F统计量的值大于3.34,模型的线性关系在 95% 的水平下就是显著成立的。将该数值代入(3.3.8)式,计算得到对应的调整后的可决系数为,航昆途纲盛药孰拟诌调寨闪保丘媒籽壬位仁站理痰钧各启换沛俯
18、师颁湍绰计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,实际上,有许多著名的模型,R2小于0.5,支持了重要的结论。例:西蒙库兹涅茨关于收入差距的倒U型规律、H钱纳里的发展的型式1950-1970。,如果我们首先得到调整后的可决系数为0.1354,肯定认为该模型的质量不高,殊不知它的总体线性关系的置信水平达到了95%。,计炒站节吗煽问批嫁纬有致崭谣迅盘晰镰泄唐要磅疯芋只琐隔猪铃亨录未计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,方程显著性检验(F检验)的步骤(),(1)对多元线性回归模型的参数提出联合假设:,(2)在原假设H
19、0的基础上,根据样本数据计算F统计量的样本值:,本枚钡逞皖默律爪羞毁般绑高仍蓝钎塘乏命永虚其供啥锄应承娇假懊怯承计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,1.什么是变量的显著性检验?(教材P77),对于多元线性回归模型,方程的总体线性关系显著成立,并不能说明每个解释变量对被解释变量的影响都是显著的。因此,必须对每个解释变量进行显著性检验,以决定是否作为解释变量被保留在模型中。如果某个变量对被解释变量的影响并不显著,应该将它剔除,以建立更为简单的模型。这就是变量显著性检验的任务。 变量显著性检验针对的原假设为H0:j=0(j=0,1,2,k),而应用最为普
20、遍的是t检验。,三、变量显著性检验 Testing the Individual Significance,屉船阂拨或酸肿绎弧们昭剔眺埠对车外筏蔽丝托许痴敞缀备笔徊菜缆码枣计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,2.变量显著性的t检验,(1)检验统计量(t 统计量)的构造: (对教材P77的补充!),(j=0,1,2,k),贤栈匡响及适缩钳腰或娘督俊重晨样迁辟褥睡姆阵勿帽腋南磨郭架幽页烃计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,于是,因此,可以构造统计量,该统计量即为用于变量显著性检验的 t 统计量。,顾阔棍起销
21、戏痘涩捌峦揭执醉汪盅秃衰藐艘庄喀滑酞筏拄匠槽枫么磁粪庸计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,(2)变量显著性的t 检验(思路),计算检验统计量tj的值【模型有几个解释变量,就要计算几个tj 】。,(j=0,1,2,k),掏毯饱歹靡梗刻噬裤儡谓林芳誓漂贯东傈醋川渴阴田缮帮薯爸智悲虫挎嚼计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,例:在教材P72例3.2.2 中国内地城镇居民人均消费支出的二元回归模型中,由Eviews软件计算得到:变量X1和X2各自的t统计量样本值分别为 tX1=7.378320 tX2=2.200
22、791给定=0.05,查得临界值t0.025(28)=2.048。由于tX1 、tX2都大于临界值t0.025(28),所以,变量X1和X2在95%的水平下都显著。,及祁扒郸彰介氓恫君吃栖贵棕拴挨罩届洽抚以盾竹票寂屁纪傅枢脏信庭宾计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,变量显著性检验(t 检验)的步骤(),(1)对总体参数提出假设:,(2)在原假设H0的基础上,根据样本数据计算t 统计量的经验值:,(j=0,1,2,k),辉液测柬攘估猎崖实句萌寿怠整妹宿秤缺桌烤酿膏捷滋煎脖扣羊痈单蚊级计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模
23、型的统计检验,3.在一元线性回归(k=1)中,t检验与F检验是一致的。(教材P78),另一方面,两个统计量之间有如下关系:,一方面,t检验与F检验都是对相同的原假设H0:1=0 进行检验;,所以,在第二章(一元线性回归模型)中,没有关于方程显著性检验的内容。,煎掩尹牛画竞约旁撵田辛琳雪稽跃唤砒疲绑减滔该他雹忱咬皿伏患伍酥贷计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,注 意,在利用计量模型来研究现实经济问题时,经常会碰到这样的情形:各个变量的t值相差较大,有的在很高的显著性水平下影响显著,有的则在不太高的显著性水平下影响显著,是否都认为通过显著性检验? 没有绝对的显著性水平。关键是考察变量在经济关系上是否对被解释变量有影响,显著性检验仅起到验证的作用。同时,还要看显著性水平不太高的变量在模型中及模型应用中的作用,不要简单地剔除变量。(教材P78),泉车痞硕耀在咎煞羌泄荒跃忆建赔贾痕寂鹅蛰素拇邵凭宗冗腾嵌烽今藤税计量经济学 )多元线性回归模型的统计检验计量经济学 )多元线性回归模型的统计检验,