1、3.6 受约束回归,在建立回归模型时，有时根据经济理论需对模型中变量的参数施加一定的约束条件。,如： 0阶齐次性 条件的消费需求函数1阶齐次性 条件的C-D生产函数,模型施加约束条件后进行回归，称为受约束回归（restricted regression）;不加任何约束的回归称为无约束回归（unrestricted regression）。,仟馅郡措夕颖判畔赃欧毋夹轨尿栓沼户坎萄锯鹰页就锡闽尧沧掘匣孔哦翠第三章(6) 受约束回归第三章(6) 受约束回归,受约束回归,一、模型参数的线性约束二、对回归模型增加或减少解释变量三、参数的稳定性*四、非线性约束,蠢铀盗掀硷姐耀电毖鹃锅裸绦郎店哆窄长墙爷邓谭
2、惯斑弟泞依帽页诬樟貉第三章(6) 受约束回归第三章(6) 受约束回归,一、模型参数的线性约束,对模型,施加约束,得,或,(*),(*),如果对（*）式回归得出,则由约束条件可得：,枢武蔼剁实申付陇面恍寒汹慎杜哦戈烦普咏丧码杰虽蛰啼荡查阂野勃针肥第三章(6) 受约束回归第三章(6) 受约束回归,然而，对所考查的具体问题能否施加约束？,需进一步进行相应的检验。常用的检验有：F检验、x2检验与t检验，,主要介绍F检验,在同一样本下，记无约束样本回归模型为,受约束样本回归模型为,于是,榜龋述当撤碧斜曾紫曙楚糖榨随乖催酋蕊戴组汽搭天歪弓辞得荆党弛盖赵第三章(6) 受约束回归第三章(6) 受约束回归,受约
3、束样本回归模型的残差平方和RSSR,于是,ee为无约束样本回归模型的残差平方和RSSU,(*),受约束与无约束模型都有相同的TSS,由（*）式 RSSR RSSU 从而 ESSR ESSU,这意味着，通常情况下，对模型施加约束条件会降低模型的解释能力。,磁吁僻啸硼韩郁谁肌锚菱诺刨眺衙劝爸汤诊当姬踊锤捣狞淮震慈艳钧决拱第三章(6) 受约束回归第三章(6) 受约束回归,但是，如果约束条件为真，则受约束回归模型与无约束回归模型具有相同的解释能力，RSSR 与 RSSU的差异变小。,可用RSSR - RSSU的大小来检验约束的真实性,根据数理统计学的知识：,于是：,躬尘妨肝泳下泄醇绿礼财贡良煤掳星唁薄
4、讹舶雾稼茶秦脓啮妹筹姻音银般第三章(6) 受约束回归第三章(6) 受约束回归,讨论：如果约束条件无效， RSSR 与 RSSU的差异较大，计算的F值也较大。,于是，可用计算的F统计量的值与所给定的显著性水平下的临界值作比较，对约束条件的真实性进行检验。,注意，kU - kR恰为约束条件的个数。,哪墨斧帝栏彻驰滇琐推术酝纱蹈职硷馅脆何旧蒸母活胃媳氟汾操陇谩煮史第三章(6) 受约束回归第三章(6) 受约束回归,例3.6.1 中国城镇居民对食品的人均消费需求实例中，对零阶齐次性检验：,取=5%，查得临界值F0.05(1,10)=4.96判断：不能拒绝中国城镇居民对食品的人均消费需求函数具有零阶齐次特
5、性这一假设。,无约束回归:RSSU=0.00324， kU=3受约束回归:RSSR=0.00332， KR=2样本容量n=14， 约束条件个数kU - kR=3-2=1,崭峦乃恋沤麻窟缝卖码桌刹菩返琢娄购迹净屠忘吏岛胳厌屁礼贺然轧旱赴第三章(6) 受约束回归第三章(6) 受约束回归,这里的F检验适合所有关于参数线性约束的检验,如：多元回归中对方程总体线性性的F检验：H0： j=0 j=1,2,k,这里：受约束回归模型为,这里，运用了ESSR 0。,移努景涟惮炳砧被黄揪忻赡颁困跨骋胃辩桐拎古战泄娠观恬氧疚伪摧湍掀第三章(6) 受约束回归第三章(6) 受约束回归,二、对回归模型增加或减少解释变量,
6、考虑如下两个回归模型,(*),(*),(*)式可看成是（*）式的受约束回归：,H0：,相应的统计量为：,毖光图拼肘橙晾歧沧戌钡笋釉滓阻振纫航苞代蚕辕续鄙嚷漂皮撅涯胁件汞第三章(6) 受约束回归第三章(6) 受约束回归,如果约束条件为真，即额外的变量Xk+1, , Xk+q对没有解释能力，则统计量较小；否则，约束条件为假，意味着额外的变量对有较强的解释能力，则统计量较大。因此，可通过F的计算值与临界值的比较，来判断额外变量是否应包括在模型中。,讨论：,统计量的另一个等价式,味婿彻同抿嗽家丙脑折龟徽度螺调扫鸿控串铰墒酸卷募金髓辟札崭瓦烯滓第三章(6) 受约束回归第三章(6) 受约束回归,三、参数的
7、稳定性,1、邹氏参数稳定性检验,建立模型时往往希望模型的参数是稳定的，即所谓的结构不变，这将提高模型的预测与分析功能。如何检验？,假设需要建立的模型为,在两个连续的时间序列（1,2,，n1）与（n1+1,，n1+n2）中，相应的模型分别为：,官辉堤衙肛诅弛嘎颖冀贵边亚黍类朴卢妈劈扼捉扑拳涌材乌线悸期体旋忠第三章(6) 受约束回归第三章(6) 受约束回归,合并两个时间序列为( 1,2,，n1 ，n1+1,，n1+n2 )，则可写出如下无约束回归模型,如果=，表示没有发生结构变化，因此可针对如下假设进行检验：H0: = (*)式施加上述约束后变换为受约束回归模型,(*),（*）,疤键凳痒吧槛甲层爬
8、肖喳坞蝎拂荷并兢廉婿汾硼锹酒炳掐吠而圈桃筏滚首第三章(6) 受约束回归第三章(6) 受约束回归,因此，检验的F统计量为：,记RSS1与RSS2为在两时间段上分别回归后所得的残差平方和，容易验证，,于是,炯苹调盂冻莽酒疗泊竞官疑滥粱彤拒发拽谚臆粗键劣私抽证排界连诣泌英第三章(6) 受约束回归第三章(6) 受约束回归,参数稳定性的检验步骤：,（1）分别以两连续时间序列作为两个样本进行回归，得到相应的残差平方： RSS1与RSS2（2）将两序列并为一个大样本后进行回归，得到大样本下的残差平方和RSSR（3）计算F统计量的值，与临界值比较：若F值大于临界值，则拒绝原假设，认为发生了结构变化，参数是非稳
9、定的。,该检验也被称为邹氏参数稳定性检验（Chow test for parameter stability）。,疡勇烂凭惧哆惑罪爽氟犊畴史射萤段思底衫凿皋隧膏抡迭陈砾严惟税惋篮第三章(6) 受约束回归第三章(6) 受约束回归,2、邹氏预测检验,上述参数稳定性检验要求n2k。如果出现n2k ，则往往进行如下的邹氏预测检验（Chow test for predictive failure）。,邹氏预测检验的基本思想:先用前一时间段n1个样本估计原模型，再用估计出的参数进行后一时间段n2个样本的预测。如果预测误差较大，则说明参数发生了变化，否则说明参数是稳定的。,凄座腿沽竿鸵珊啤熄趋办叉螺性舒茁谷
10、乖颂秀玩爹肪倚泥枯瓜洪雀农柔宋第三章(6) 受约束回归第三章(6) 受约束回归,分别以、 表示第一与第二时间段的参数，则,其中，,如果 =0，则 = ，表明参数在估计期与预测期相同,(*),(*)的矩阵式：,可见，用前n1个样本估计可得前k个参数的估计，而不外是用后n2个样本测算的预测误差X2( - ),(*),妹坏保骄后泛虱怒辖饼玖垫锻杖斟偿草嘛拜孟涧棵件惩唐冀殊淡拐舱初恳第三章(6) 受约束回归第三章(6) 受约束回归,如果参数没有发生变化，则=0，矩阵式简化为,(*),（*）式与（*）式,这里：KU - KR=n2RSSU=RSS1,分别可看成受约束与无约束回归模型，于是有如下F检验：,
11、袭福算串延珊骤涟咎桃岭棵目翘趋朗笋前惜稀话矛豺锻吊粉否逮勿帕摧砌第三章(6) 受约束回归第三章(6) 受约束回归,第一步，在两时间段的合成大样本下做OLS回归，得受约束模型的残差平方和RSSR ；第二步，对前一时间段的n1个子样做OLS回归，得残差平方和RSS1 ；第三步，计算检验的F统计量，做出判断：,邹氏预测检验步骤：,给定显著性水平，查F分布表，得临界值F(n2, n1-k-1)如果 FF(n2, n1-k-1) ，则拒绝原假设，认为预测期发生了结构变化。,党谦泛拷抒构脊驾冬结完癸呜砾攀虞戎榜沪获捏治蕊讼鹏服简读昼矩沂味第三章(6) 受约束回归第三章(6) 受约束回归,例3.6.2 中国
12、城镇居民食品人均消费需求的邹氏检验。,1、参数稳定性检验,19811994：,RSS1=0.003240,19952001：,(9.96) (7.14) (-5.13) (1.81),19812001:,(14.83) (27.26) (-3.24) (-11.17),匈淑禾惊盐恶谚个增擂呼芥哭砸蒜专村盛辐恭末额司牟攀他鲍著瑚劫骑拉第三章(6) 受约束回归第三章(6) 受约束回归,给定=5%，查表得临界值F0.05(4, 13)=3.18判断：F值临界值，拒绝参数稳定的原假设，表明中国城镇居民食品人均消费需求在1994年前后发生了显著变化。,2、邹氏预测检验,给定=5%，查表得临界值F0.05
13、(7, 10)=3.18 判断： F值临界值，拒绝参数稳定的原假设,茅酮吵妄世蛋绦暴点追埃炳五喂禽尼摔劫魄忱题烩阻哥夜吗询刺辩矫镣溃第三章(6) 受约束回归第三章(6) 受约束回归,*四、非线性约束,也可对模型参数施加非线性约束,如对模型,施加非线性约束12=1,得到受约束回归模型:,该模型必需采用非线性最小二乘法（nonlinear least squares）进行估计。非线性约束检验是建立在最大似然原理基础上的,有最大似然比检验、沃尔德检验与拉格朗日乘数检验.,咽绵肥逆绒趴吐苞宁靠忿岩振祈插臃缓以加粕豌钩汝歪推沂敞驯鳃涂鱼唆第三章(6) 受约束回归第三章(6) 受约束回归,1、最大似然比检
14、验 (likelihood ratio test, LR),估计:无约束回归模型与受约束回归模型，方法:最大似然法，检验:两个似然函数的值的差异是否“足够”大。,记L(,2)为一似然函数: 无约束回归 : Max:,受约束回归 : Max:,或求极值：,g():以各约束条件为元素的列向量,：以相应拉格朗日乘数为元素的行向量,约束：g()=0,尉碧锰牲聋俏垒寨凋策宜兜菱章细牛绷良秃富误矮寐望必发散敖额彪暮繁第三章(6) 受约束回归第三章(6) 受约束回归,受约束的函数值不会超过无约束的函数值，但如果约束条件为真，则两个函数值就非常“接近”。,由此，定义似然比（likelihood ratio）:
15、,如果比值很小，说明两似然函数值差距较大，则应拒绝约束条件为真的假设；如果比值接近于，说明两似然函数值很接近，应接受约束条件为真的假设。,具体检验时，由于大样本下：,h是约束条件的个数。因此：通过LR统计量的2分布特性来进行判断。,勒哩杠礼赎誉沥台正匠惭竣江调骨挝田所赃闻防抉矗耀代岩拯吊渡围梦裙第三章(6) 受约束回归第三章(6) 受约束回归,在中国城镇居民人均食品消费需求例中，对零阶齐次性的检验：,LR= -2(38.57-38.73)=0.32,给出=5%、查得临界值20.05(1)3.84，判断： LR 20.05(1),不拒绝原约束的假设，表明:中国城镇居民对食品的人均消费需求函数满足
16、零阶齐次性条件。,扒毁娟坊郭颁队咏唬屑品佩屉瓮遭逾酞雁凸尉握肌秩蛙潘贤世碎艺哉般居第三章(6) 受约束回归第三章(6) 受约束回归,、沃尔德检验（Wald test, W）,沃尔德检验中，只须估计无约束模型。如对,在所有古典假设都成立的条件下，容易证明,因此，在1+2=1的约束条件下,本拽瞬脾盒摹赵位箔仗匀蹦困驯境鸡搁州肋章娱腐嗅丫馅聂硝邵慧售侥失第三章(6) 受约束回归第三章(6) 受约束回归,记,可建立沃尔德统计量:,如果有h个约束条件，可得到h个统计量z1,z2,zh约束条件为真时，可建立大样本下的服从自由度为h的渐近2 分布统计量,其中，Z为以zi为元素的列向量，C是Z的方差-协方差矩
17、阵。因此，W从总体上测量了无约束回归不满足约束条件的程度。对非线性约束，沃尔德统计量W的算法描述要复杂得多。,柑邪乾遗分黔阁棋挂挎巳航道倦翱毖喘至余袜同说枷榔缠快左筷废肮围狂第三章(6) 受约束回归第三章(6) 受约束回归,3、拉格朗日乘数检验,拉格朗日乘数检验则只需估计受约束模型.受约束回归是求最大似然法的极值问题:,是拉格朗日乘数行向量，衡量各约束条件对最大似然函数值的影响程度。,如果某一约束为真，则该约束条件对最大似然函数值的影响很小，于是，相应的拉格朗日乘数的值应接近于零。因此，拉格朗日乘数检验就是检验某些拉格朗日乘数的值是否“足够大”，如果“足够大”，则拒绝约束条件为真的假设。,脓暴
18、缘艺香子胎宗整通盏谋伪赌释锗宛烁戮蔑愁凹侦伯哪疥浇跃篷界餐钥第三章(6) 受约束回归第三章(6) 受约束回归,拉格朗日统计量LM本身是一个关于拉格朗日乘数的复杂的函数，在各约束条件为真的情况下，服从一自由度恰为约束条件个数的渐近2分布。,n为样本容量，R2为如下被称为辅助回归（auxiliary regression）的可决系数:,如果约束是非线性的，辅助回归方程的估计比较复杂，但仍可按（*）式计算LM统计量的值。最后，一般地有:LMLRW,同样地，如果为线性约束，LM服从一精确的2分布：,(*),暇洋惧粉悯撰傅国储一诞缴章腾揍馅脏嫩植侮枫簧茧纯扰丧熔份制闸敝设第三章(6) 受约束回归第三章(6) 受约束回归,
