1、随机过程复习 1第一章：预备知识1.1 概率空间随机试验，样本空间记为 。定义 1.1 设 是一个集合，F 是 的某些子集组成的集合族。如果（1） F；（2） F ， F； A若 A则（3）若 F ， ，则 F；n， 211n则称 F 为 代数(Borel 域)。( ,F)称为可测空间，F 中的元素称为事件。由定义易知： .216,)54( 11AiABiniii ，则，） 若（ ；则若（ ；定义 1.2 设( ,F)是可测空间，P()是定义在 上的实值函数。如果F 121 ,320)(iii jiAPji 有时 ，当） 对 两 两 互 不 相 容 事 件（ ；）（ ；任 意则称 P是 上的概
2、率， （ ）称为概率空间，P(A)为事件 A的概率。F, PF，定义 1.3 设（ ）是概率空间， ，如果对任意 ，FGGn,21有： ,21n ,11niini A则称 为独立事件族。G1.2 随机变量及其分布随机变量 X，分布函数 ，n 维随机变量或 n维随机向量 ，联合分布函数，)(xF是独立的。Tt,1.3 随机变量的数字特征定义 1.7 设随机变量 X的分布函数为 ，若 ，则称)(x)(|xdF )(EdF为 X的数学期望或均值。上式右边的积分称为 Lebesgue-Stieltjes积分。方差， 为 X、 Y 的协方差，而YBXYDBX为 X、 Y 的相关系数。若 则称 X、 Y
3、不相关。,0Y（Schwarz 不等式）若 则,22E. 1.4 特征函数、母函数和拉氏变换 定义 1. 10 设随机变量的分布函数为 F（x） ，称(),jtXjtxgtEedt随机过程复习 2为 X 的特征函数随机变量的特征函数具有下列性质：(1) 1(0)1,(,)(gtgt( 2 ) g (t)在 上一致连续。 （3）()0()kkgiEX(4)若 是相互独立的随机变量，则 的特征函数12,n 12n，其中 是随机变量 X 的特征函数， .()t iti ,i定义 1 . 11 设 是 n 维随机变量，t = ( ) 则称12,)X tt ,R,1()exp(nit kgttEiX 为
4、 X 的特征函数。定义 1.12 设 X是非负整数值随机变量，分布列,2,kxXPpk则称)()defsEks0为 X的母函数。 1.5 n维正态分布定义 1.13 若 n 维随机变量 的联合概率密度为 ),(21nX )(exp),() 1/21 Tn axBBxfx 式中， 是常向量， 是正定矩阵，则称 为 n 维正态随机),naa ijb(变量或服从 n 维正态分布，记作 。,aNX可以证明，若 ，则 的特征函数为,( 21exp),)21 tiBtittgn为了应用的方便，下面，我们不加证明地给出常用的几个结论。性质 1 若 则 。,(BaXnlbaXEkXkl ,( 性质 2 设 ，
5、 ，若 正定，则 。即正态)NAY )(AaNY随机变量的线性变换仍为正态随机变量。性质 3 设 是四维正态随机变量， ，),(4321 4,321,0kXE则 )()()()()( 414231421 XEXEXE 1.6 条件期望给定 Y=y 时，X 的条件期望定义为 dxyfyxdFyY)|()|()|(由此可见除了概率是关于事件Y=y的条件概率以外，现在的定义与无条件的情况完全一样。E(X|Y=y)是 y 的函数，y 是 Y 的一个可能值。若在已知 Y 的条件下，全面地考虑 X 的均值，需要以 Y 代替 y，E(X|Y)是随机变量 Y 的函数，也是随机变量，称为 X 在 Y 下的条件期
6、望。条件期望在概率论、数理统计和随机过程中是一个十分重要的概念，下面我们介绍一个极其有用的性质。性质 若随机变量 X 与 Y 的期望存在，则随机过程复习 3-(1) )(|()|()( ydFYXEXEY如果 Y 是离散型随机变量，则上式为 yP|如果 Y 是连续型，具有概率密度 f(x)，则（1）式为 dyfYXE)(|()(第二章 随机过程的概念与基本类型2.1 随机过程的基本概念定义 2.1 设（ ）是概率空间,T 是给定的参数集,若对每个 tT，有一个随机变PF，量 X(t,e)与之对应，则称随机变 量族 是（ ）的随机过程,简记为随机)(teXPF，过程 。T 称为参数集，通常表示
7、时间。通常将随机过程 解释为一个物理系统。X(t)表示在时刻 t 所处的状态。),(teX(t)的所有可能状态所构成的集合称为状态空间或相空间， 记为 I。从数学的观点来说，随机过程 是定义在 T 上的二元函数。对固定的),(tet，X(t,e)是定义在 T 上的普通函数，称 为随机过程 的一个样本函数或轨道，样),(teX本函数的全体称为样本函数的空间。 2.2 随机过程的函数特征=X(t),tT 的有限维分布函数族。t有限维特征函数族： 1,:),(2121,1 nTttgntn 其中： )(exp,121,1 kknt tiEn 定义 2.3 设 =X(t),tT 的均值函数 ， 。t
8、dftmX)二阶矩过程，协方差函数： T ,)(,() 2ttBtDXX相关函数： ),(tsRX(sE定义 2.4 设X( t),tT ，Y(t),tT 是两个二阶矩过程，互协方差函数，互相关函数。 2.3 复随机过程定义 2.5 设 ， 是取实数值的两个随机过程，若对任意,t,t Tt，tiYXZ其中 ，则称 为复随机过程1i ,Tt定理 2.2 复随机过程 的协方差函数 具有性质t ),(tsB（1）对称性： ；),(,sB（2）非负定性2.4 几种重要的随机过程一、正交增量过程定义 2.6 设 是零均 值的二阶矩过程，若对任意的 有公t, ,4321tt式随机过程复习 4，03412
9、ttt则称 正交增量过程。ttstsRt ,min,2二、独立增量过程定义 2.7 设 是随机 过程，若 对任意的正整数 和 随机t, ,21ntt变量 是互相独立的，则称 是独12312 ,nttt ,立增量过程，又称可加过程。定义 2.8 设 是平 稳独立增量过程，若对任意 随机变量 的t, ,tsst分布仅依赖于 ，则称 是平稳独立增量过程。stt,三、马尔可夫过程定义 2.9 设 为随机 过程，若对任意正整数 n 及 ,TtX, ntt,21，且其条件分布0,)(11nxxtP= ，(2.6) 1,| nn xtXt 1|)(nxtXxtP则称 为马尔可夫 过程。t,四、正态过程和维纳
10、过程定义 2.10 设 是随机过程，若对任意正整数 n 和 ,(Tt, Ttt,21, )是 n 维正态随机变量， 则称 是正态过程或高斯过程。,21tXTt,定义 2.11 设 为随机过程，如果ttW,(（1） ；0)(（2）它是独立、平稳增量过程；（3）对 ，增量 ，则称 为ts,0,|,0)(22stNst ttW),(维纳过程，也称布朗运动过程。定理 2.3 设 是参数为 的维纳过程，则),(（1（ 任意 t , ；|,)(2tt（2（ 对任意 ,sa,)min()()( 2atsaWE特别： 。ttRw,min,2五、平稳过程定义 2.12 设 是随机过程，如果对任意常数 和正整数
11、当TX, ,n时，nnttt,11 ntt,21与 有相同的联合分布，则称 为严平稳过nt,2 TtX,程，也称狭义平稳过程。定义 2.13 设 是随机 过程，如果t,（1） 是二阶矩过 程；TtX,（2）对于任意 常数；tm,（3）对任意的 ，则称 为广义平稳过程，简称为sRss, TtX,平稳过程。若 T 为离散集，则称平稳过程 为平稳序列。TtX,第三章 泊松过程.1 泊松过程的定义和例子定义 3.1 计数过程随机过程复习 5定义 3.2 称计数过程 为具有参数 0 的泊松过程，若它满足下列条件0),(tX(1) X(0)= 0；(2) X(t)是独立增量过程；(3) 在任一长度为 t
12、的区间中，事件 A 发生的次数服从参数 t0 的泊松分布，即对任意 s,t0，有)1.3(),210(,!)( ntensXtsP注意，从条件(3)知泊松过程是平稳增量过程且 。由于， 表tXE tXE)(示单位时间内事件 A 发生的平均个数，故称 为此过程的速率或强度。定义 3.3 称计数过程 为具有参数 0 的泊松过程，若它满足下列条0),(t件(1) X(0)= 0；(2) X(t)是独立、平稳增量过程；(3) X(t) 满足下列两式：(3.2)(2)(,1hotXhtP定理 3.1 定义 3.2 与定义 3.3 是等价的。3.2 泊松过程的基本性质一、数字特征设 是泊松过程， 0),(
13、tX stmstRtsBXEtDtmXxXX )(),(),( 1)()(2一般泊松过程的有 。in,有特征函数定义，可得泊松过程的特征函数为 )1(ep)()( iutiuXXtg二、时间间隔与等待时间的分布为第 n 次事件 A 出现的时刻或第 n 次事件 A 的等待时间， 是第 n 个时间间隔，WT它们都是随机变量。定理 3.2 设 是具有参数 的泊松分布， 是对应的时间间隔序列，0),(t)1(n则随机变量 是独立同分布的均值为 的指数分布。21Tn /1定理 3.3 设 是与泊松过程 对应的一个等待时间序列，则,n0),(tX服从参数为 n 与 的 分布，其概率密度为n0,)!1()(
14、ttetfnWn三、到达时间的条件分布定理 3.4 设 是泊松过程，已知在0,t内事件 A 发生 n 次，则这 n 次到),(tX达时间 与相应于 n 个0,t上均匀分布的独立随机变量的顺序统计量有相n21同的分布。3.3 非齐次泊松过程随机过程复习 6定义 3.4 称计数过程 为具有跳跃强度函数 的非齐次泊松过程，若它(),0Xt()t满足下列条件：(1) ；(2) 是独立增量过程；(0)(3) ()1()2Pthttho非齐次泊松过程的均值函数为： 0()tXmsd定理 3.5 设 是具有均值函数 的非齐次泊松过程，则(),0Xt0()tXs有 ()()exp,(0)!()( ()XXnt
15、stX nPtstnmtt或 ()e()!()XnttPt上式表明 不仅是 的函数，也是 的函数。()Xtsns3.4 复合泊松过程定义 3.5 设 是强度为 的泊松过程， 是一列独立同分布随0,N,.21,kY机变量，且与 独立，令)(t,1kxY则称 为复合泊松过程。0),(tX定理 3.6 设 是复合泊松过程，则,0)(1tNk（1） 。 是独立增量过程；),(t（2）X(t)的特征函数 ，其中 是随机变量 的1)(exp)(ugtugYtX)(ugY1Y特征函数； 是事件的到达率。（3）若 则,)(21YE ., 211tEXDE第 4 章 马尔可夫链4.1 马尔可夫链的概念及转移概率
16、一、马尔可夫键的定义定义 1 设有随机过程 ，若对于任意的整数 和任意的 ，,TnXTnIin10,条件概率满足 ,110nniiPiX则称 为马尔可夫链，简称马氏链。,TnX二、转移概率定义 2 称条件概率 1()|ijnnpXji为马尔可夫链 在时刻 n 的一步转移概率，其中 ，简称为转移概率。,n Ij,定义 3 若对任意的 ，马尔可夫链 的转移概率 与 n 无关，则I, T)(pij随机过程复习 7称马尔可夫链是齐次的，并记 为 。)(npijij定义 4 称条件概率 )1,0,(|)( nmIjXPmnij为马尔可夫链 的 n 步转移概率， Tn定理 1 设 为马尔可夫链，则对任意整
17、数 和 ，n 步,TXnl,Iji,转移概率 具有下列性质：)(nijp.)4(;3;)2(;)1()()( 121njkkIkIinijIlnjlikijPppnn定义 5 设 为马尔可夫链，称,TXn )(,)(0 IjXPjpnjj 和为 的 初始概率和绝对概率，并分别称 和 为,npj ,Ijnj的初始分布和绝对分布，简记为 和 。 j定理 2 设 为马尔可夫链，则对任意 和 ，绝对概率 具有,TnI1)(npj下列性质： PnPppTTIiijjIiijj )1()4(03)()(1)(定理 3 设 为马尔可夫链，则对任意 和 ，有,XIiin,21 1iiIinpXii 1,21
18、4.2 马尔可夫链的状态分类一、状态分类假设 是齐次马尔可夫链，其状态空间 ，,0n0,12I转移概率是 , 初始分布为 。,ijpI,jpiI定义 4.6 如集合 非空，则称该集合的最大公约数():1,0ni为状态 的周期。如 就称 为周期的，如 就称 为()().:nidiGCDididi非周期的。 （若对每一个不可被 整除的 ，有 =0，且 是具有此性质的最大正整数，则d()ni称 为状态 的周期。 ）i引理 4.1 如 的周期为 d，则存在正整数 M，对一切 ，有 。i ()0ndip定义 对 记,Sj(0)(1)10,|ijijffPXji（4.15）() 0,2,1|,2nijnk
19、nXin随机过程复习 8()nijijTff称 是系统在 0 时从 出发经过 步转移后首次到达状态 的概率，而 则是在 0 时()nij nj()ijf从 出发，系统在有限步转移内不可能到达状态 的概率。我们将 和 统称为首达概j()nij率（又称首中概率） 。引理 （1） ()0nijijfnji,（2） 首达概率可以用一步转移概率来表示：12112() nnij iijijijp 定义 4.7 若 =1，则称状态 为常返的；若 0， 若有，0|)(|limeXPnn则称二阶矩随机序列 依概率收敛于二阶矩随机变量 X(e)，记作 。XPn 4、均方收敛随机过程复习 14设有二阶矩随机序列 和
20、二阶矩随机变量 X，若有nX(6.3)0|lim2E成立，则称 均方收敛，记作 。n smn .注：(6.3)式一般记为 或 。l.ix nli5、依分布收敛设有二阶矩随机序列 和二阶矩随机变量 X，若 相应的分布函数列 ，nXn()nFx在 X 的分布函数 F(x)的每一个连续点处，有 )(lixF则称二阶矩随机序列 依分布收敛于二阶矩随机变量 X，记作n Xdn 对于以上四种收敛定义进行比较，有下列关系：(1) 若 ，则Xsmn . Pn(2) 若 ，则ea . (3) 若 ，则Pn dn定理2 二阶矩随机序列 收敛于二阶矩随机变量X 的充要条件为0|li2mnnE定理 3 设 都是二阶矩
21、随机序列，U 为二阶矩随机变量， 为常数序列，,nXYZ nca，b，c 为常数。令 ， ， ， 。则mil. Yiln. Ziln.mil.（1） ；cciln.（2） ；（3） ；il)(.（4） ；bYaXan（5） ；.li nn ilEE（6） ；).)(m, mn Yil特别有。|.|li 222 nnn XilX定理 4 设 为二阶矩随机序列，则 均方收敛的充要条件为下列极限存在n。li, mmnE二、均方连续定义 设有二阶矩过程 ，若对 ，有),(TtX0t，200li|)(|hhX则称 在 点均方连续，记作 。若对 T 中一切点都均方连续，()Xt0 0.)litt则称 在
22、T 上均方连续。定理（均方连续准则）二阶矩过程 在 t 点均方连续的充要条件为相关函),(t数 。处 连 续在 点 ),(),(21ttRX推论 若相关函数 在 上连续，则它在 TT 上连续),21tRX,Tt随机过程复习 15三、均方导数定义7 设 是二阶矩过程，若存在一个随机过程 ，满足),(TtX)(tX20()(lim| )|0hXttEth()t则 称 在 点 均 方 可 微 ， 记 作 0()(.hdttttli()Xtt并 称 为 在 点 的 均 方 导 数 。类似的有 2dtX或称 121212121201(,)(,)(,)(,)limXXXXhRthRtthRt 为 在 的广
23、义二阶导数，记为),(tX,t21),(tX定理6 均方可微准则 二阶矩过程 在t点均方可微的充要条件为相关函数,T的广义二阶导数存在。),(),(21ttRX在 点推论 1 二阶矩过程 在 T 上均方可微的充要条件为相关函数 在),(t ),(21tRX上每一点广义二阶可微。,T推论 2 若 在 上每一点广义二阶可微，则 在 T 上以及,(21tX,t )dmt121212()(,)(,)XXXRtRtt在 上存在，且有T1212122211212() ();(,)();,(3)()(,),4()XXXdmtEttdEtttRtXt tt四、均方积分定义 8 如果 时， 均方收敛于 ，即 ，
24、则称0nnSS20lim|0nnES在 上均方可积，并记为()ftX,ab 101().()niiiaiSftXdtlmftXt(),ft称 此 为 在 区 间 上 的 均 方 积 分 。定理 7 （均方可积准则） 在区间 上均方可积的充要条件为ft,ab随机过程复习 161212()(,)bXaftRtdt存在。特别的，二阶矩过程 在 上均方可积的充要条件为 在b12(,)XRt上可积。,ab定理 8 设 在区间 上均方可积，则有()ftX,(1) ()()bbaaEftdtftEdt特别有 X(2) 11221212()()()(,)bbbXaaafttftftRtdt特别的有 。1|(,
25、bXaEXdRd定理 9 设二阶矩过程 在 上均方连续，则),(Tt,()()taYatb在均方意义下存在，且随机过程 在 上均方可微，且有 。,()YtX推论 设 均方可微，且 均方连续，则()XtXt()()atdt特别有 tat4 平稳过程的各态历经性定义 9 设 为均方连续的平稳过程，则分别称(),Xtt11()l.im(),()l.im()22T TT Tt dXt Xtdt 为该过程的时间均值和时间相关函数。定义 10 设 是均方连续的平稳过程，若 ，(),tt Pr.1()tEt即 1l.i()2TXTtd以概率 1 成立，则称该平稳过程的均值具有各态历经性。若 ，即()Pr.X
26、tEt1l.im()()2TXTXdtR以概率 1 成立，则称该平稳过程的相关函数具有各态历经性。定义 11 如果均方连续的平稳过程 的均值和相关函数都具有各态历经性，,tT则称该平稳过程为具有各态历经性或遍历性。定理 10 设 是均方连续的平稳过程，则它的均值具有各态历经(),Xtt性的充要条件为(6.9)2 21lim()0TXTRmd定理 6.11 设 为均方连续的平稳过程，则其相关函数具有各态历经(),tt随机过程复习 17性的充要条件为(6.15)2 21 1lim()(0TXTBRd其中(6.16)1 11()()()BEXttt 定理 6.12 对于均方连续平稳过程 ，等式,00
27、1l.i()TXdm以概率 1 成立的充要条件为 li()02TXTB若 为实平稳过程，则上式变为()Xt 01lim()XTd定理 6.13 对于均方连续平稳过程 ，等式,0t0l.i()()XTtR以概率 1 成立的充要条件为 211li()(0XTBd其中 与（6.16）式相同。1()B若 为实平稳过程，则上式变为Xt 2110lim()(0TXRd第七章 平稳过程的谱分析7.1 平稳过程的谱密度设 是均方连续随机过程，作截尾随机过程 )(tXTtXtT|,0)(因为 均方可积，故存在傅式变换tT(7.4)(,)()()it itxTTFeded利用帕塞伐公式及傅式反变换，可得 2221
28、()(),T XXtxtF定义 7.1 设 为均方连续随机过程，称,22()limTEtd为 的平均功率，称)(tX随机过程复习 1821(),2limXxTsEFT为 的功率谱密度，简称谱密度。)(tX当 是平稳均方连续函数时，由于 是与 无关的常数，利用均方积)(2tX分的性质可以将（7.5）式简化得 221()liTEtd (7.8)2()0xEtR由（7.8）式和（7.5）式看出，平稳过程的平均功率等于该过程的均方值，或等于它的谱密度在频域上的积分，即. (7.9)21XSd定义 7.2 设 是平稳随机序列，若相关函数满足,0,n ()XnR则称 ()(),()inXXnsRe为 的谱
29、密度。,01,2nX7.2 谱密度的分析设 为均方连续平稳过程， 为它的相关函数， 为它tt),( )(XRXS的频率谱密度， 具有下列性质：XS（1） 若 ，则 是 的傅式变换，即dRXS. (7.12)itXed(2) 是 的实的,非负的偶函数。XS(3) 当 是 有理函数时，其形式必为220.()nnx maasbb其中 为常数，且 ，2,0,;,4,)nimjabij 20na，分母无实根。7.3 窄带过程及白噪声过程的功率谱密度定义 1 设 为实值平稳过程，若它的均值为零，且谱密,Xtt度在所有频率范围内为非零的常数，即 则称 为白0XsNXt噪声过程。具有下列性质的函数称为 函数：
30、 0,;(1) (2)1x xd函数有一个非常重要的运算性质，即抽样性质。对任何连续函数 ，fx随机过程复习 19有(7.15)0,fxdf或 .Txf7.4 联合平稳过程的互谱密度定义 7.4 设 和 是两个平稳过程，且它们是联合平稳的 (平稳相关XtYt的)，若它们的互相关函数 满足 ,则称 的傅氏变XRXYRdXYR换.(7.21)iXYYsed是 与 的互功率谱密度，简称互谱密度。tt因此互谱密度 与互相关函数 的关系如下：YYXR, iXsed12iYYXRs互谱密度具有下列性质： ，即 与 互为共轭；XYXsXs 和 是 的偶函数，而 和eYeYXsImXYs是 的奇函数；ImY 与 和 满足下列关系式：XsXsY2XYs若 和 相互正交，则tt 0Xs
