一元线性回归模型的参数估计

1、1,概念：,在给定解释变量Xi条件下被解释变量Yi的期望轨迹相应的函数称为总体回归函数（PRF）,基于样本数据，所得到的总体回归函数的一个估计函数称为样本回归函数。,回顾,问题：当我们设定总体回归模型的函数形式后，如何通过样本数据得到总体回归函数的一个估计（即样本回归函数）？-参数估计问题,2,2.2 一元线性回归模型的参数估计,一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 三、参数估计的最大或然法(ML) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干扰项方差的估计,3,单方程计量经济学模型分。

2、2.3一元线性回归模型的统计检验,一、上节课内容的回顾1、总体回归函数与样本回归函数2、一元线性回归模型的参数估最小二乘估计 3、正规方程组4、一元线性回归模型参数最小二乘估计的性质,模型,性质,总体回归模型,样本回归模型,回归对象,总体回归函数回归对象是总体数据,样本回归函数回归对象是 样本数据,参数估计的内涵,总体回归函数的内涵是总体中 解释与被解释变量之间的结构 关系,样本回归函数的内涵是样本中解释与被解释变量之间的结构关系,计算方法与估计特点,总体回归模型是用求条件期望E(Y|X)方法求出参数估计值，参数估计值是不变。

3、2.2 一元线性回归模型的参数估计,一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 三、参数估计的最大或然法(ML) * 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干扰项方差的估计,1,6/16/2019,单方程计量经济学模型分为两大类：线性模型和非线性模型,线性模型中，变量之间的关系呈线性关系 非线性模型中，变量之间的关系呈非线性关系,一元线性回归模型：只有一个解释变量,i=1,2,n,Y为被解释变量，X为解释变量，0与1为待估参数， 为随机干扰项,2,6/16/2019,回归分析的主要目的是要通过样本回归函数（模型。

4、1,概念：,在给定解释变量Xi条件下被解释变量Yi的期望轨迹相应的函数称为总体回归函数（PRF）,基于样本数据，所得到的总体回归函数的一个估计函数称为样本回归函数。,回顾,问题：当我们设定总体回归模型的函数形式后，如何通过样本数据得到总体回归函数的一个估计（即样本回归函数）？-参数估计问题,2,2.2 一元线性回归模型的参数估计,一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 三、参数估计的最大或然法(ML) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干扰项方差的估计,3,单方程计量经济学模型分。

5、2.3 一元线性回归模型的参数估计 (Estimation of Simple Linear Regression Model),一、参数的普通最小二乘估计（OLS） 二、参数估计的最大或然法(ML) 三、参数估计的矩法(MM) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干扰项方差的估计,如果线性方程组,的系数行列式D不等于零， 则方程组有唯一解,（1）,CRAMMER法则,解,CRAMMER法则应用,所以,1、Crammer法则只能用于求解方程个数与未知数个数相等的线性方程组； 2、Crammer法则只能求得系数行列式不为零时的线性方程组的唯一解；即如果方程个数与未知数个数不相等，或系。

6、2.3 一元线性回归模型的参数估计,一、参数的普通最小二乘估计（OLS） 二、参数估计的最大似然法(ML) 三、最小二乘估计量的性质 四、估计量的概率分布及随机干扰项方差 的估计,一、参数的普通最小二乘估计（OLS）,给定一组样本观测值（Xi, Yi）（i=1,2,n）要求样本回归函数尽可能好地拟合这组值. 普通最小二乘法（Ordinary least squares, OLS）给出的判断标准是：二者之差的平方和,最小。,方程组（*）称为正规方程组（normal equations）。,记,上述参数估计量可以写成：,称为OLS估计量的离差形式（deviation form）。 由于估计结果是通过。

7、第五章 回归分析“回归”一词的由来1889年，英国著名统计学家Francils Galton在研究父代与子代身高之间的关系时发现：身材较高的父母，他们的孩子也较高，但这些孩子的平均身高并没有他们父母的平均身高高；身材较矮的父母，他们的孩子也较矮，但这些孩子的平均身高却比他们父母的平均身高高。Galton把这种后代的身高向中间值靠近的趋势称为“回归现象” 。后来，人们把由一个变量的变化去推测另一个变量的变化的方法称为“回归方法” 。回归分析的基本概念1. 函数关系和统计相关关系在一个实际问题中会遇到多个变量，可将其区分为自变量。

8、一元线性回归模型的参数估计, 对线性回归模型参数的估计方法有多种，常用的有最小二乘法和最大或然法（ML）。 我们的目的是确定总体回归函数可是又只能获得来自于总体的样本，要用样本所建立的样本回归函数尽可能“接近”地去估计总体回归函数。我们可以从不同的角度确定建立样本回归函数的准则。例如，（1）用产生该样本概率最大的原则去确定样本回归函数，称为最大或然法。（2）用使估计的剩余平方和最小的原则确定样本回归函数，称为最小二乘准测。,1、方法的引出,（一）普通最小二乘法(OLS),在研究点与直线的距离问题上会遇到三种情况。

9、一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 三、参数估计的最大或然法(ML) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干扰项方差的估计,2.2 一元线性回归模型的参数估计,单方程计量经济学模型分为两大类：线性模型和非线性模型,线性模型中，变量之间的关系呈线性关系 非线性模型中，变量之间的关系呈非线性关系,一元线性回归模型：只有一个解释变量,i=1,2,n,Y为被解释变量，X为解释变量，0与1为待估参数， 为随机干扰项,回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回。

10、2.2 一元线性回归模型及参数估计 Simple Linear Regression Model and Its Estimation,一、 “线性”回归模型的特征及含义 二、一元线性回归模型的基本假设 三、参数的普通最小二乘估计(OLS) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干扰项方差的估计,一、 线性回归模型的特征,一个例子 凯恩斯绝对收入假设消费理论：消费C是由收入Y唯一决定的，是收入的线性函数：,但实际上上述等式不能准确实现。,原因 (1)消费除了受收入影响外还受其他因素因影响。 (2)线性关系是一个近似，收入变量的观察值是近似的，数据本身并不绝。

11、一元线性回归模型及其参数估计,一、一元线性回归模型的参数估计 二、最小二乘参数估计量的统计性质 三、最小二乘参数估计量的概率分布,一、一元线性回归模型的参数估计,一元线性回归模型的一般形式,模型参数估计的任务,模型参数估计的任务为两项：,1、普通最小二乘法 （Ordinary Least Square, OLS）,给定一组样本观测值（Xi, Yi），i=1,2,n，假如模型参数估计量已经求得，并且是最合理的参数估计量，那么样本回归函数应该能够最好地拟合样本数据，即样本回归线上的点与真实观测点的“总体误差”应该尽可能地小。,最小二乘法给出的判断标。