1、Econometric Theory,Lecturer: Dr.Jingtao YiRoom 715Business School, RUC,Lecture 9: k-Variable Linear Regression VII,1. Linear Restriction Tests (Large Sample);2. LR, W and LM Tests.,Linear Restriction Tests,A general linear hypothesis about b takes the form:,Linear Restriction Tests,The main linear r
2、estriction tests:Likelihood Ratio (LR) TestWald (W) TestLagrange Multiplier (LM) Test,Likelihood Ratio Test,Likelihood Function,Likelihood Ratio Test,Likelihood Ratio Test,Likelihood Ratio Test,Likelihood Ratio Test,如果LR越大,则原函数和约束函数的差异越大,则意味着约束条件不成立,拒绝约束条件。,Wald Test,In the Wald procedure, only the
3、unrestricted b is calculated., 服从渐进正态分布。当N趋向于无限大的,F趋向于W。大样本时的F相当于W。,Lagrange Multiplier Test,The LM test is known as the Score test, based on the score vector.,分值函数:似然函数的一阶条件。,H0验证原假设对应LM检验H1验证备择假设对应W检验H1/H0同时检验对应LR检验,Lagrange Multiplier Test,Y对X做约束回归,然后提出约束回归的残差,将其与X再回归,得到LM统计量,从检验约束条件是否成立。这里的R平方式残
4、差和x回归的拟合度。,Lagrange Multiplier Test,The procedure for performing the LM test:1. Compute the restricted estimator and obtain the residual vector ;2. Regress on X and calculate .,Lagrange Multiplier Test,LR=W-正数=LM+正数,W比其他假设更统一拒绝零假设,因为w着重从备择假设来检验约束条件。,LM LR W,LR对比非约束和约束的差异,因此其值居中。LR是建立在极大似然估计基础上,假设服从正态分布。W检验由于没有包含约束函数因此更容易拒绝原假设。W也是建立极大似然估计基础上,但是采用渐进的方法。LM由于包含了约束函数,因此更容易接受约束函数的假设。建立在分值函数。,采用最小二乘法,也可以使用LR检验,因为LR的计算实际上就是残差平方和。也可以使用w检验,因为w采用渐进分布。LM采用两步回归,都是采用最小二乘回归,因此也可以采用最小二乘估计。因此上述三个指标的推导思路尽管来自极大似然估计,但是在实际中使用最小二乘法估计,也可以使用上述三个统计量来检验假设,尤其是对大样本统计值的检验,