1、(三) ARMA模型的自相关函数由 ARMA(p,q)的自协方差公式可以看出,n 只有 的 q个自相关 的值同时依赖于 和 ;n 当 时,具有与 AR(p)模型相同的自相关函数差分公式或者1n 若 ,自相关函数 是指数或正弦波衰减的,具体由多项式和初始值决定。n 若 ,就会有 个初始值不遵从一般的衰减变化形式。n ARMA(p,q)的自相关函数是 步拖尾的。这一事实在识别 ARMA模型时也非常有用。2n ARMA(1,1)过程3二、偏自相关函数( partial autocorrelation function, PACF) n 时间序列过程的偏自相关函数就是时间序列在两个时间随机变量之间,排
2、除了其间各个时间随机变量影响的相关系数。 4(一) AR(p)模型的偏自相关函数n AR(p)的模型n 偏自相关函数定义为n 计算方法把 对 回归,得到回归方程其中最后一项的回归系数就是要求的偏自相关系数 。 5n 根据线性回归法计算偏自相关函数,运用最小二乘法进行参数估计,得到正规方程组n 该方程组也可以认为是利用的协方差和自相关函数导出。尤勒 沃克方程如下6n 分别求解,得到偏自相关系数:7n 由于 AR(p)模型意味着 与 以后的滞后项不相关,因此大于 p阶的偏自相关系数必然都等于 0。n 这意味着 AR(p)模型的偏自相关函数有在处截尾的特征。n 这也是识别自回归模型及其自回归阶数的重
3、要依据。8(二) MA(q)和 ARMA模型的偏自相关函数n MA(1)的偏自相关函数 该函数 ,且被衰减指数控制,因此具有拖尾性。n 可逆的 MA()过程等价于无限阶的 AR过程,因此它们的偏自相关函数会无限延伸,被指数衰减和(或)正弦波衰减所控制。总之都具有拖尾的特征。9n 自回归移动平均混合过程 ARMA(p,q),是由自回归过程和移动平均过程两部分组成,因此它们的偏自相关函数也是无限延伸的,其特征就像纯移动平均过程的偏自相关函数。n 混合过程的偏自相关函数被复合的衰减指数和(或)衰减正弦波所控制。衰减特性主要由移动平均过程的阶数和具体参数决定。10三、模型识别方法1、基本 ARMA模型
4、自相关和偏自相关函数的基本特征( 1) AR(p)模型的自相关函数是拖尾的,即会按指数衰减,或正弦振荡衰减,偏自相关函数是截尾的,截尾处为自回归阶数 p;( 2) MA(q)模型的自相关函数是截尾的,截尾处对应移动平均阶数 q。偏自相关函数则是拖尾的;11( 3) ARMA(p,q)模型的自相关函数和偏自相关函数都是拖尾的,自相关函数是 步拖尾,偏自相关函数是 步拖尾。122、样本自相关函数和样本偏自相关函数n 假设有一组观测样本 ,一般认为近似自相关函数最好的样本自相关函数为:其中13n 计算样本偏自相关函数( SPACF)的方法:直接把样本自相关值代入尤勒 沃克方程进行计算,或者用公式回归
5、的方法计算。14第三节 自回归移动平均模型的估计n ARMA模型的参数估计常用的方法是利用均值(期望)、自相关函数,包括 Yule-Walker方程的矩估计方法。这些矩估计方法是一致估计,但未必有效。n 充分有效的估计方法是最大似然法,但最大似然法比较复杂。n 在样本容量较大时矩估计与最大似然估计是接近的。15一、移动平均模型参数估计n MA(q)模型的自协方差函数为n 自相关函数为16n 首先利用样本数据计算出 的估计值n 把这 q+1个样本自协方差代自协方差函数中的 ,或者根据这些 再计算出 的估计 代入自相关函数,并用 和 分别代自协方差或自相关函数中的待定参数 和 ,可得到 q+1个方
6、程的联立方程组。17n 如果可以从这个方程组解出 和 ,就是我们要求的参数估计值。n 也可以先解出真实参数与自协方差、自相关的关系,再代入样本估计值。n 因为 是时间序列过程的二阶矩,上述估计量是通过 q+1个样本矩方程求出的,所以是矩估计量,具有一致估计的性质。18n q=1时的参数估计方法一:直接利用一阶自相关函数进行参数估计19n 由于可逆性条件要求 的绝对值小于 1,因此只有满足要求。n 把样本自相关系数 作为 的估计代入上式,就可以解得模型参数的估计量20方法二:利用自协方差函数 进行估计n MA(1)模型有n 求解上述方程组,并利用 ,可解得 21n 代入样本自相关和自协方差得模型
7、参数和模型误差项方差 的估计量n 由于上述矩估计的方程组是非线性的,因此只有当 q较小( q=1、 2、 3)时,直接进行解析求解才可行,当更大时解析求解越来越困难,一般应使用迭代方法求近似解。22n 最简单的迭代方法把 MA(q)模型的自协方差公式代入估计量,并变换为23首先给出参数的一组初始值: 将它们和 代入上述两个迭代公式,计算出参数的第一次迭代值, , 再将这些参数值代入迭代公式反复迭代,直到收敛。最后得到迭代值作为参数估计值。24二、自回归模型参数估计(一)普通最小二乘估计 OLSn 根据模型 ,残差平方和为n 根据最小二乘原理,利用一阶条件求上述最小二乘函数最小化的参数值 ,即为
8、最小二乘估计。25(二)利用样本自协方差方程的矩估计n 对于一般的平稳 AR(p)模型,有关于自相关的一组关系,即 Yule-Walker方程:26n 利用样本数据计算出样本自相关 ,代入上述 Yule-Walker方程,可以解得 的 “Yule-Walker估计 ”:27n 该模型中修正项 的方差则可以用下式估计:n 因为计算估计量的方程组是样本自相关函数,也是二阶样本矩方程,因此 Yule-Walker估计同样是矩估计量,也是一致估计。28n 当样本容量足够大时, OLS法和矩估计方法的结果是很相似的。n 在使用 OLS法时需要注意的是, AR(p)模型回归用的是一个时间序列的数据,各期滞后之间相关性较强,因此回归结果的有效性往往有问题,必须时间序列的样本容量比较大,而且还要排斥存在共线性问题。 29三、自回归移动平均模型参数估计ARMA(p,q)模型的 个参数可分两步进行估计n 步骤一:先估计出其中的自回归参数;n 步骤二:估计移动平均系数和 。30