时间序列的预报.ppt

1、第五章 时间序列的预报,最小方差估计 平稳线性最小均方误差预报 一类非平稳序列的线性最小均方误差预报 ARMA序列的新息预报,第一节 最小方差估计,一. 最小方差估计准则 对未知随机变量或未知随机向量进行估计是时间序列分析中预测理论的重要内容。 令 表示依据量测Z对X所得的某种估计，称 为X的估计，它是与X的维数相同的随机向量，而且是Z的函数.,记估计的误差为 ，称 为估计的均方误差阵，若存在某种估计，使得估计的均方误差阵比任何其他的均方误差阵都小，则称这个估计是最优的。 注：这里所讲的估计的均方误差阵大小，是指矩阵的大小。设A,B为同阶对称阵，若A-B是非负定阵，则称A不小于B，记为 ；若A

2、-B是正定阵，则A大于B，记为AB。,二. 条件期望与条件方差 对于两个二阶矩有穷的随机向量，定义在给定Y=y的条件下，X的条件期望和条件方差分别记为E(X|y)和Var(X|y)其中p(x|y)是给定Y=y的条件下X的条件密度函数。,条件期望的性质： (1) E(X|Y)是Y的函数向量并与X的维数相同， E(X|Y)使随机向量 (2) E(X|Y)具有线性性，即对k个相同维数随机向量 及k个常数 有，(3) EE(X|Y)=EX,(4) 设X与Y为相互独立的随机向量，则Ef(X)|Y=f(X)其中f( )为适当的函数向量，仅要求f(x)为随机向量。(5) Ef(Y)|Y=f(Y),(6),(

3、7) 当X与Y的联合分布为正态分布时，则,三. 最小方差估计 寻找最小方差估计就是寻找一个适当的Z的函数 为随机函数向量，较之其它估计 相应估计的均方误差阵达最小，即可以证明：,注：（1） 最小方差估计是无偏估计（2） 最小方差估计的均方误差阵为,四. 线性最小方差估计 若估计 为量测随机向量Z的线性函数其中 为n维随机向量，Z为m维随机向量，a为 与 同维数的常值向量，A为非随机矩阵，选择 a,A是估计的均方误差阵达最小的估计称为线性 最小方差估计。,X的线性最小方差估计为的性质： (1) 线性最小方差估计具有无偏性 (2) 线性最小方差估计的估计误差为且 与Z正交。,定义1.1 设X与Z分

4、别是二阶矩的n维与m维随机 向量，如果存在一个与X同维数随机向量 ，且 具有下列性质： (1) 可由Z的线性表示，即 ,其中a 和A分别为常值向量和常值矩阵 (2) (3) 与Z正交，即 则称 是X在Z上的投影，记为,注： (1) 线性最小方差估计 是X在Z上的投影(2) X在Z上的投影只能是线性最小方差估计 ，即投影是唯一的 (3) 当X与Z为联合正态时,X关于Z的条件期望和X在Z上的投影相等，即,第二节 平稳线性最小均方 误差预报,预报是根据现在和过去的观察资料，对未来时 刻的取值进行估计。 设 为零均值平稳序列， 为 的 长度为k的样本，根据 对 ( 为正整 数)做出估计 ，取估计的优劣

5、标 准为使估计误差(2.1) 的方差 达最小，则,(1) (2.2) 称 为 步最小均方误差预报。 (2) 如果函数f是 的线性函数,那么(2.2) 为正交投影，即其中 ，称 为 步线性最小 均方误差预报。,注：(1) 当 为正态序列时，最小均方误差预报与线性最小均方误差预报是一致的。(2) 当 为非正态序列时，最小均方误差预报要优于线性最小均方误差预报。,例2.1: 设 为相互独立的随机变量, ,令 分别求Y关于X的线性最小均方误差估计和最小均方误差 估计。,线性最小均方误差估计具体的表述：选择 使得达最小。由于因此，令,则有，将理论自协方差函数 换成样本自协方差函数 ， 得到，(1.5),

6、于是 步线性最小均方误差预报为存在的问题：1. 样本自协方差函数 由 计算出来，k很大，故(1.5)的计算量极大2. 部分样本自协方差函数 无法计算。,为克服上述困难,不妨假设已获得的观测资料为所有的 历史资料,即为 ，令表示由k时刻和它之前的所有历史数据对 所作的 步线性最小均方误差预报，即其中 是使 步预报误差 的均方 达到最小，则有,1.1 步预报和预报误差方差 设 为ARMA(p,q)序列，其传递形式和逆转形式分 别为且令可知，,则序列 的 步线性最小均方误差预报为：(1.11) 步预报误差为：(1.12) 步预报误差方差为：(1.13),注： (1) 由(1.11)可得(1.14)(

7、1.14)表明，在k+1时刻的 步预报等于k时刻的 步 预报加上k时刻的一步预报误差得加权修正项。 (2) 由两部分组成，第一部分 为 步预报误差，第二 部分 为 步预报,(3) 等式(1.13)表明：在线性最小均方误差预报意义下， 步预报误差方差仅与预报步数有关，而与预报起点k无关，并且步数愈大，预报误差也就愈大，即预报精度愈差。,对于ARMA(p,q)模型参数 与Green函数 的关 系式：其中当模型建立后， 由模型参数 逐步递推得到，再 由公式(1.12),(1.13),(1.14)计算出 步预报 和 预报误差，误差方差。,1.2 ARMA(p,q)序列的平稳线性最小均方误差预报 一.

8、AR(p)序列的预报 模型：步预报为当 时，有,定理1.1 设 为AR(p)序列，则观测到时刻k为止的各步预报有如下递推公式:(1.16),注：定理1.1表明，对AR(p)序列，只要知道这p个数据，就可递推求得AR(p) 序列的任意步的平稳线性最小均方误差预报，比 k-p+1时刻更早的历史数据对预报不起作用。,例1.2 试求AR(1)序列的预报和预报误差方差。,注:若 为正态噪声，则 的95%的置信区间的置信 上、下限为,例1.3 试求AR(2)序列的预报。步预报为：(1) 递推法：由初值 ,可递推出 任意 步预报 。(2) 差分方程法： 满足二阶差分方程其中推移算子B作用于 ，即,设 为特征

9、方程 的特征根，当k 固定时，由差分方程理论知： (1) 为不同实根，则 步预报为其中 满足则，,(2) 当 ，则 步预报为其中 满足则，,(3) 当 ，记则 步预报为,例1.4 设某地区年平均降水量 为540毫米，其偏差 序列 为AR(2)序列其中 ，已知近5年的实测降水量(单位：毫米) 为求今后3年各年降水量的预测值。,二. MA(q)序列的预报 (1) 逆函数法预报 MA(q)模型：(2.1) 其逆转形式为(2.2)从逆函数出发，给出的预报为逆函数法预报。,定理1.2 设 为MA(q)序列，则观测到时刻k为止 的各步预报为(2.3)其中 由下式递推得到，(2.4),注：(1) 公式（2.

10、4）不仅适用于MA(q)序列，也适用于ARMA(p,q)序列。(2) MA(q)序列和AR(p)序列两者预报有一个根本区别：对MA(q)序列的预报 依赖于k时刻和k时刻以前的全部历史数据。,在实际应用中，我们采取有穷和(取求和项适当的大)代替(2.3)式中的无穷和，从而近似的线性最小均方误差预报为(2.7) 对于M的选择，可根据 收敛于零的速度适当地选择，以保证预报的精度。,(2). 向量递推预报 引理1.1 设 为ARMA(p,q)序列，则有如下预报递推 公式：(2.8),定理1.3 设 为MA(q)序列，则线性最小均方误差预 报向量 满足如下递推公式(2.9)其中，,注：递推公式(2.9)

11、中的初值 可由逆函数公式 直接得到，当 很小时，也可取 。 例1.4 求MA(2)序列： 的逆函数法预报。 解：逆函数为：由系数公式，,故其逆函数法预报为：当 时， 取M=13,其近似预报为：,例1.5求MA(2)序列： 的向量递推预报。,三. ARMA(p,q)序列的预报 (1) 逆函数法预报 预报公式为：(2.10)其中这里，,注：在实际应用中，我们采取有穷和(取求和项适当的大)代替(2.10)式中的无穷和，从而近似的线性最小均方误差预报为，(2.11),(2) 向量递推预报 ARMA(p,q)模型：(2.12) 其传递形式为：(2.13) 注意到，当 时，(2.14) 其中， ,故当 时

12、， 由(2.14) 递推求得。,定理1.4 设 为ARMA(p,q)序列，则线性最小均方误差 预报向量 满足如下递推公式(2.15) 其中，,注：递推公式中的初值 的选取方法与MA(q) 序列选取是一致的。,例1.6 求ARMA(1,2)序列的逆函数法预报和向量递推预报。 解：(1) 模型的逆转形式为：于是，逆函数为：,逆函数法预报为选取M=30,于是相应的近似预报为,(2) 模型的传递形式为：于是，其Green函数为：故，向量递推预报为：,第三节 一类非平稳序列的线性 最小均方误差预报,一. ARIMA(p,d,q)序列的预报 设 为ARIMA(p,d,q)序列, ，令，则， 可通过 及 表

13、示为(3.1),当tm=d时，由这里 为ARMA(p, q)序列，我们有如下定理，定理1.5 设 为ARIMA(p,d,q)序列，则 已知条件下关于 线性最小均方误差预报为,其中，,注：定理1.5表明：通过ARMA(p,q)序列 的线性 最小均方误差预报，可给出原序列 的预报。例1.7 求 为ARIMA(1,1,0)序列的预报。 解： 的模型为：令 ，于是 为AR(1)序列，则,二. 季节性乘积模型的预报 设 为 模型,即：令 ，则令 这里， 为ARMA(p,q)序列，而 为ARIMA(p,d,q)序 列。,序列，则由 的线性最小均方误差预报，得到 的 预报为，其中又因为，于是，原序列 的 步

14、预报公式为，或,例3.1 设 为 序列：求 的 步预报。,三. 非平稳序列的叠合模型的预报 具有确定性的趋势分量和周期分量的非平稳序列为(3.2) 其中 为趋势分量， 为周期分量， 为平稳ARMA(p,q) 序列。 将(3.2)式中的三部分各自进行 步预报，之和作为 的 步预报，即，,具体地， (1) 仅含线性趋势： ，则(2) 仅含多项式趋势： ,则(3) 仅含指数趋势： 实数,则,(4) 仅含周期分量： ,则(5) 既具有趋势又有周期分量的非平稳序列的预报为，,例3.1 考虑如下叠合模型：故 可表为模型的两部分 步预报之和，即,例3.2：化学衰减数据的建模。采用一个温度跃变系统 来研究化学反应中浓度变化的衰减过程。具体办法是产生 电火花温度甚高，使溶液温度急骤升高而逐渐衰减，趋于 平稳状态。它可用一个吸收光谱的测量系统，直接测量到 反应溶液的浓度。取采样间隔为0.02秒的100个测点记录数 据。,由上图可知，数据变化存在着负指数衰减，且趋于稳 态值32左右，故可考虑如下叠合模型去拟合：其中，Wt为平稳序列。,通过运算得，Xt的叠合模型为其中,预报结果,随堂练习： 设 为平稳正态序列，且为AR(1)序列：已知 的95%的置信区间为(9.5,15.5) 试求： （1）模型参数 （2）一步预报,