1、1,随机信号分析,2,课程内容及安排,课程地位： 学习通信原理、移动通信等专业课的先修课程. 主要内容 随机过程(1011次课) 平稳随机过程谱分析(34次课) 随机过程通过线性系统(34次课) 随机过程通过非线性系统(23次课) 学习方法：信号与系统+随机过程 考核形式 作业 20% 考试 80%,3,预备知识,概 率 论,4,经典概率问题,一维随机变量,二维随机变量,随机变量数字特征,概率分布函数、概率密度函数和一维随机变量函数分布,概率分布函数、概率密度函数和二维随机变量函数分布,概率空间、全概率公式和贝叶斯公式,数学期望、方差和各阶矩,极限定理,切比雪夫不等式、弱大数定律、中心极限定理
2、等,特征函数,随机过程,主 要 内 容,5,主要内容：,随机变量的数字特征,随机变量函数的分布,随机变量的特征函数,6,第一节,随机变量数字特征,7,数 学 期 望,离散随机变量,连续随机变量,随机变量Y=g(X),8,数 学 期 望(续1),注：,Y=aX1+bX2,Y=X1X2,X1和X2相互独立时,9,数 学 期 望(续2),例1,随机变量X服从下表分布，求EX和EX2,Y=X2的概率分布为,EX=0.8,EY=7.2,10,各阶矩(中心矩、原点矩),原点矩,中心矩,方差,11,第二节,随机变量函数分布,12,一维随机变量函数分布,随机变量Y是随机变量X的单调函数，并存在反函数X=h(Y
3、)，则,情况1：,情况2：,随机变量Y是随机变量X的多值函数，假设一个Y值对应两个X值， 且X1=h1(Y)和X2=h2(Y)，则,13,一维随机变量函数分布(例),例2 设随机变量X服从正态分布N(0,1)，求随机变量 Y=X2的概率密度。,解：,Y=X2,=,14,一维随机变量函数分布(例续),分布,15,二维随机变量函数分布,已知二维随机变量( X1 ,X2 )的概率分布, g(x1,x2) 为已知的二元函数，Z = g(X1 ,X2 ),求：Z 的概率分布？,当( X1 ,X2 )为连续型随机变量时，,其中,16,二维随机变量函数分布(续),新问题：,已知随机变量X1和X2的联合概率密
4、度为,求随机变量Y1=g1(X1,X2)和Y2=g2(X1,X2)的联合概率密度?,单值变换函数,X1=h1(Y1,Y2)和X2=h2(Y1,Y2),17,例3 已知 ( X1 ,X2 )的联合密度函数为,Y = X1 + X2 ,求 f Y (y),令,二维随机变量函数分布(例),解：,18,2,1,1,19,20,二维随机变量函数分布(例),例4 已知 X1 和X2是两个独立的正态分布随机变量,求随机变量Z和的联合概率密度。,其中,解：,21,二维随机变量函数分布(例),平面直角坐标上的两个彼此独立分布的正态随机变量，,经极坐标变换后，其模服从瑞利分布，相位服从均匀分布,且模和相位两个随机
5、变量是相互独立的,瑞利分布,均匀分布,22,二维随机变量函数分布(例),例5 已知 X1 和X2是两个独立的正态分布随机变量,求随机变量Y1和Y2的联合概率密度。,其中,23,二维随机变量函数分布(例续),24,二维随机变量函数分布(例续),25,二维随机变量函数分布(例续),推广至n维高斯随机向量,26,第三节,随机变量特征函数,27,特征函数的定义,定义：,ejuX的数学期望定义为随机变量X的特征函数CX(u),X为离散随机变量时，其特征函数为,X为连续随机变量时，其特征函数为,28,特征函数的定义(例),例6 设随机变量 X服从正态分布N(0,1)，求它的特征函数。,29,特征函数性质,
6、(1) 随机变量X的特征函数CX(u)满足,(2) 随机变量X的特征函数为CX(u)，,则 Y=aX+b的特征函数为,(3) 独立随机变量X1和X2的特征函数分别为CX1(u),和CX2(u)，,则 Z=X1+X2的特征函数为,给出一种求独立随机变量和的分布新方法。,30,特征函数与概率密度之间的关系,一维随机变量X的函数Y=g(X)的概率密度,31,特征函数与概率密度之间的关系(例),例7 设随机变量 X在,之间均匀分布,求Y=sin X的概率密度函数,32,特征函数与概率密度之间的关系(例),33,特征函数与各阶矩之间的关系,34,特征函数与各阶矩之间的关系(续),35,特征函数作用,可以
7、简化各阶矩的运算,可以简化一维随机变量函数的运算,可以简化独立随机变量和的分布的计算,单 值 函 数,36,第 1 章,随机过程,37,本章主要内容：,随机过程的基本概念,随机过程的数字特征,随机过程的微分和积分计算,随机过程的平稳性和遍历性,随机过程的相关函数及其性质,复随机过程,正态过程,马尔可夫链,泊松过程,38,1.1 随机过程的基本概念及统计特性,基本要求：,深入理解随机过程的定义,了解随机过程的几种分类,理解随机过程的概率分布,掌握随机过程的数字特征计算方法,了解随机过程的特征函数,39,一、 定义,对接收机的噪声电压作观察,40,1 样本函数： ， ， ， ，都是时间的函数，称为
8、样本函数。,2 随机性：一次试验，随机过程必取一个样本函数，但所取的样本函数带有随机性。因此，随机过程不仅是时间t 的函数，还是可能结果的函数，记为 ，简写成 。,41,定义2：若对于每个特定的时间 ， 都是随机变量，则称 为随机过程， 称为随机过程 在 时刻的状态。,3. 随机过程的定义：,42,4.定义的理解 ：,上面两种随机过程的定义，从两个角度描述了随机过程。作观测时，常用定义1，通过观测的试验样本可得到随机过程的统计特性；理论分析时，常用定义2，可把随机过程看成为n 维随机变量，n越大，采样时间越小，所得到的统计特性越准确。,43,理解：,一个时间函数族,一个确知的时间函数,一个随机
9、变量,一个确定值,1 和 都是变量,2 是变量而 固定,3 固定而 是变量,4 和 都固定,44,随机变量,与时间无关,随机过程,与时间相关的一族随机变量,45,解：,(1) 固定时间t，X(t)是随机变量，,是一族随机变量,(2) 对随机变量做一次试验得到一个结果，,是随时间变化的函数，即样本函数。,X(t)是一随机过程。,46,二、 随机过程分类,1. 按随机过程的时间和状态来分类,(1) 连续型随机过程：时间t取值连续，且对随机过程任一时刻 的取值 都是连续型随机变量。,(2) 离散型随机过程：时间t取值连续，且对随机过程任一时刻 的取值 都是离散型随机变量。,47,(4) 离散随机序列
10、：随机过程的时间t只能取某些时刻，如 ， 2 ，n ，且这时得到的随机变量 是离散型随机变量，即时间和状态是离散的。相当于采样后再量化 。,(3) 连续随机序列：随机过程的时间t只能取某些时刻，如 ， 2 ，n ，且这时得到的随机变量 是连续型随机变量，即时间是离散的。相当于对连续型随机过程的采样。,48,2. 按样本函数的形式来分类,不确定的随机过程：随机过程的任意样本函数的值不能被预测。例如接收机噪声电压波形。,确定的随机过程：随机过程的任意样本函数的值能被预测。例如，样本函数为正弦信号。,49,离散型随机过程,不是确定性随机过程,50,例3 离散型随机过程的样本函数皆为常数， 即X(t)
11、=C=可变常数，其中C为随机变量，其可能值 为C1=1，C2=2和C3=3，它们分别已概率0.6、0.3及0.1 出现。X(t)是确定性过程吗？,X(t)是确定性随机过程,51,3. 按概率结构和特性分类,按分布函数或概率密度函数：正态随机过程、泊松随机过程等,按平稳性：平稳随机过程、非平稳随机过程,按遍历性：遍历随机过程、非遍历随机过程,按功率谱密度特性：宽带随机过程、窄带随机过程等,52,三、 随机过程的概率分布,1. 一维概率分布,随机过程X(t)在任意ti T的取值X(ti)是一维随机变量。记为Fx(xi；ti)=PX(ti)xi为随机过程 X(t)的一维分布函数。,若 的偏导数存在，
12、则有,53,2. 二维概率分布,若FX(x1,x2;t1,t2)对x1，x2的二阶混合偏导存在，则,为随机过程X(t)的二维概率密度,54,3. n维概率分布,55,四、随机过程的数字特征,随机变量的数字特征通常是确定值；随机过程的数字特征通常是确定性函数。,对随机过程的数字特征的计算方法，是先把时间t固定，然后用随机变量的分析方法来计算。,56,1. 数学期望,显然， 是某一个平均函数，随机过程的诸样本在它的附近起伏变化，如图所示：,物理意义：如果随机过程表示接收机的输出电压，那么它的数学期望就是输出电压的瞬时统计平均值。,57,2. 均方值和方差,随机过程 在任一时刻t的取值是一个随机变量
13、 。我们把 二阶原点矩称为随机过程的均方值，把二阶中心矩记作随机过程的方差。即：,且,58,物理意义：如果 表示噪声电压，则均方值 和方差 分别表示消耗在单位电阻上的瞬时功率统计平均值和瞬时交流功率统计平均值。,标准差或均方差：,59,3. 自相关函数,先比较具有相同数学期望和方差的两个随机过程。,60,自相关函数用来描述随机过程任意两个时刻的状态之间的内在联系，通常用 描述。,61,4. 自协方差函数,若用随机过程的两个不同时刻之间的二阶混合中心矩来定义相关函数，我们称之为自协方差。用 表示，它反映了任意两个时刻的起伏值之间相关程度。,62,比较自协方差和自相关函数的关系,比较自协方差和方差
14、的关系,63,例4：求随机相位正弦波 的数学期望，方差，自相关函数及一维概率密度。式中， 为常数，是区间0， 上均匀分布的随机变量。,64,65,（3）自相关函数,66,67,例5：设随机过程X(t)=A+Bt，其中A和B是相互独立的正态分布N(0,1)随机变量，求X(t)的数学期望、方差、自相关函数、协方差函数、一维和二维概率密度函数。,（1）数学期望,（2）方差,68,（3）自相关函数,（4）自协方差函数,69,（5）一维概率密度函数,因A和B都是正态分布随机变量，,所以，给定时间t，X(t)也是正态分布随机变量，且,70,（6）二维概率密度函数,给定时间t1和t2，,X(t1) 和X(t
15、2)是两个正态分布随机变量，且,71,例6(课堂练习)：设随机过程X(t)=Acos0t，其中 0为常数，A为在(0,1)之间均匀分布的随机变量， (1) 画出过程X(t)的几个样本函数图形； (2) 试求t=0、/(4 0)和3/(4 0)时， X(t)的一维概率密度函数。 (3)求X(t)的均值、相关函数、协方差函数和方差函数,72,例6(课堂练习)：设随机过程X(t)=Acosw0t，其中w0为常数，A为在(0,1)之间均匀分布的随机变量， (1) 画出过程X(t)的几个样本函数图形； (2) 试求t=0、/(4w0)和3/(4w0)时， X(t)的一维概率密度函数。 (3)求X(t)的
16、均值、相关函数、协方差函数和方差函数,解：,t=0,X1=X(t=0)=A,t=/(4w0),X2=X(t= /(4w0)=Acos(/4),t=3/(4w0),X3=X(t= 3/(4w0)=Acos(3/4),73,74,五、 随机过程的特征函数,1. 一维特征函数,随机过程 在任一特定时刻t的取值是一维随机变量，其特征函数为:,其反变换为：,n阶矩,75,2. 二维特征函数,其反变换为：,76,3. n维特征函数,77,1.1 小结,随机过程X(t,)：随时间变化的一族随机变量 随机过程分类 随机过程统计特性描述 本章的重点内容之一一维、二维联合概率密度数学期望,均方值,方差,自相关函数
17、,自协方差函数,78,1.2 连续时间随机过程的微分和积分,基本要求： 理解随机过程连续的概念 理解随机过程微分的概念，掌握随机过程导数的数字特征求解 理解随机过程积分的概念，掌握随机过程三种积分方式及对应数字特征求解,79,1.2 连续时间随机过程的微分和积分,一、 随机过程的连续性,1. 预备知识：,对于确定性函数 ， 若,则 在 处连续。,80,2. 随机过程 连续性定义,81,3. 随机过程 的相关函数连续，则 连续,因此，如果对 时刻，函数 在 点上连续，则随机过程 必在点t 上连续。,证：,82,4. 随机过程 均方连续，则其数学期望连续,证：,由均方连续的定义， ，则不等式左端趋
18、于0，那么不等式的右端也必趋于0（均值的平方不可能小于0）,设,83,即：,注意 为确定性函数，由预备知识，可知连续。,可将此结果写成,求极限和求数学期望的次序可以交换,84,二、 随机过程的导数,预备知识：对于一般确定性函数，高等数学给出的可导定义如下：,一阶可导：,如果 存在，则 在t处可导，记为 。,85,二阶可导：,存在，则 二阶可导，记为,若,86,1. 随机过程可导的定义, 通常意义下的导数,随机过程X(t)的导数可定义为极限,如果极限在均方意义下存在，则X(t)具有均方意义下的导数。,87,如果随机过程 满足,则称 在t时刻具有均方导数 ，表示为, 均方意义下的导数,88,2.
19、判别方法,判断一个随机过程是否均方可微的方法是采用柯西准则,即,而,89,若存在混合偏导,，则t1=t2时有,=,可见，随机过程X(t)在t处均方可微的充分条件为：相关函数在它的自变量相等时，存在二阶混合偏导数且连续，即存在,90,3. 数字特征,（1）随机过程导数的数学期望等于其数学期望的导数,证明：,91,（2）随机过程导数的相关函数等于可微随机过程的相关函数的混合偏导数,证明：,92,93,94,例2. 随机过程X(t)的数学期望为,求随机过程,的均值。,95,的均值、相关函数、,，其中V是均值为4，方差为1,96,随机过程连续与可导小结,确定函数的连续性,随机过程的连续性,则称该随机过
20、程在通常意义下连续。,t0,若,则称随机过程X(t)在t点均方连续，记为：,的均方值趋于零，即,时,97,如果对 时刻，函数 在 点上连续，则随机过程 必在点t上连续。,随机过程均方连续的判定：,98,确定函数的微分,随机过程的微分,则称该随机过程在通常意义下导数。,t0,若,的均方值趋于零，即,则称随机过程X(t)在t0点均方可导，记为：,99,随机过程均方可导的判定：,随机过程X(t)在t处均方可微的充分条件为：相关函数在它的自变量相等时，存在二阶混合偏导数且连续，即存在,100,101,三、 随机过程的积分,1. 预备知识,对于确定性函数 ，,其中 ，,102,2. 随机过程的三种积分,
21、定区间积分： 随机过程 在确定区间 上的积分Y是一个随机变量，即,即,则称 为随机过程 在 上的均方积分。,a,的均方值趋于零，,103,加权随机过程积分：,变上限随机过程积分：,a,a,104,3.定区间随机过程积分的数字特征,（1）定区间随机过程积分的数学期望等于随机过程数学期望的积分。,证明：,求积分和求期望可以互换顺序。,105,(2) 定区间随机过程积分的均方值等于随机过程自相关函数的二重积分；其方差为随机过程协方差的二重积分。,106,107,4.加权随机过程积分的数字特征,(1)数学期望,108,(2)相关函数,109,(3)协方差函数,110,(1) 数学期望,5. 变上限随机
22、过程积分的数字特征,111,(2) 相关函数：等于对随机过程的相关函数作两次变上限积分（先对t1,后对t2积分）,112,(3) 协方差函数：等于对随机过程的协方差函数作两次变上限积分（先对t1,后对t2积分）,113,例4. 随机过程X(t)=,的随机变量，求随机过程,的均值、相关,，其中V是均值为5，方差为1,函数、协方差函数和方差。,解：,(1)求X(t)的均值和相关函数,114,(2)求Y(t)的均值、相关函数和协方差函数,115,116,例5. 随机过程X(t)=,的随机变量，求随机过程,的均值、,，其中V是均值为1，方差为1,相关函数、协方差函数和方差。,解：,(1)求X(t)的均
23、值和相关函数,117,(2)求Y(t)的均值、相关函数和协方差函数,118,119,1.3 平稳随机过程及其遍历性,基本要求：, 理解随机过程严平稳性的概念，会判断, 掌握严平稳随机过程一维、二维概率密度的特性。, 理解随机过程宽平稳性的概念，会判断，掌握宽平稳随机过程相关函数的性质。, 理解随机过程遍历性的概念，会判断。, 了解随机过程相关函数的测量方法。,120,1.3 平稳随机过程及其遍历性,一、 平稳随机过程,1. 严平稳随机过程,(1) 定义,如果对于任意的n和 ，随机过程 X(t)的 n 维概率密度满足：,则称X(t) 为严平稳（或狭义）随机过程 。,严平稳随机过程的统计特性与时间
24、起点无关 。,121,(2) 一、二维概率密度及数学特征,严平稳随机过程的一维概率密度与时间无关,122,严平稳随机过程的二维概率密度只与 t1, t2的时间间隔有关，而与时间起点无关,123,(3)严平稳的判断,按照严平稳的定义，判断一个随机过程是否为严平稳，需要知道其n维概率密度，可是求n维概率密度是比较困难的。不过，如果有一个反例，就可以判断某随机过程不是严平稳的，具体方法有两个：,(1) 若X(t)为严平稳，k为任意正整数，则 与时间t无关。,(2) 若X(t)为严平稳，则对于任一时刻t0， X(t0)具有相同的统计特性。,124,二、 宽平稳随机过程,若随机过程 X(t)满足,则称X
25、(t)为宽平稳或广义平稳随机过程。,严平稳与宽平稳的关系：严平稳过程的均方值有界，则此过程为宽平稳的，反之不成立。对于正态过程，严平稳与宽平稳等价。,125,例1. 设随机过程Z(t)=Xsint+Ycost，其中X和Y是相互独立的 二元随机变量，它们都分别以2/3和1/3的概率取-1和2，试求： Z(t)的均值和自相关函数； 证明Z(t)是宽平稳的，但不是严平稳的。,解：,因此，Z(t)是宽平稳的。,126,因此，Z(t)不是严平稳的。,127,例2. 设随机过程X(t)=t2+Asint+Bcost，其中A和B都是一元随机变 量，且EA=EB=0，DA=DB=10，EAB=0，试分别讨论
26、X(t)和Y(t)=X(t)-mX(t)的平稳性。,解：,X(t)不是平稳过程。,Y(t)是平稳过程。,128,三、平稳随机过程相关函数的性质,性质1,平均功率,性质2,偶对称性,性质3,极值性,证：,129,则 。,若X(t)是非周期的，,由协方差函数的定义，可得,由此,若X(t)是非周期，则有,证：,且在t=0时,可得,130,平稳随机过程必须满足对所有 均成立。,性质5,相关函数（协方差）的典型曲线,131,例3：已知平稳随机过程 X(t)的自相关函数为RX()=100e-10| |+100cos10 +100求X(t)的均值、均方值和方差。,RX()=（100cos10 ）+（100e
27、-10| |+100）= RX1()+ RX2(),所以有,解：,132,严平稳随机过程,宽平稳随机过程,严平稳随机过程的统计特性与时间起点无关 。,一维概率密度与时间无关,均值、均方值、 方差及 与时间无关,二维概率密度仅与时间间隔有关,相关函数仅与时间间隔有关,均值与时间无关，相关函数仅与时间间隔有关,133,四、平稳过程的相关系数和相关时间,此值在1，1之间。,相关系数,表示不相关,表示完全相关,表示正相关，即两个不同时刻起伏值符号相同可能性大。,134,相关时间,当相关系数中的时间间隔大于某个值，可以认为两个不同时刻起伏值不相关了，这个时间就称为相关时间。,(1) 相关系数从最大值1下
28、降至0.05时所经历的时间间隔 ，记做相关时间, 即:,(2)用钜形（高为 ,底为 的矩形）面积等于阴影面积( 积分的一半）来定义相关时间，即,物理意义,相关时间 越小，就意味着相关系数 随 增加而降落的越快，这表明随机过程随时间变化越剧烈。反之， 越大，则表时随机过程随时间变化越慢。,135,解：,136,五、 遍历性或各态历经性,1 遍历性过程的定义,如果一个随机过程 X(t),它的各种时间平均（时间足够长）依概率1收敛于相应的集合平均,则称X(t)具有严格遍历性,并称它为严遍历过程。,严遍历性的定义,137,宽遍历性的定义,设X(t)是一个平稳随机过程，且满足：,则称X(t)为宽(或广义
29、)遍历过程。,时间均值,均值遍历,时间相关函数,相关函数遍历,依概率1成立,138,均方值和方差的遍历性,均方值遍历,方差遍历,139,2 遍历过程的实际应用,一般随机过程的时间平均是随机变量，但遍历过程的时间平均为确定量，因此可用任一样本函数的时间平均代替整个过程的统计平均，在实际工作中，时间T不可能无限长，只要足够长即可。,3 遍历过程和平稳过程的关系,遍历过程必须是平稳的，而平稳过程不一定是遍历的。（遍历必定平稳由遍历定义即可知）,140,解：,X(t)是平稳随机过程。,(1),141,(2),X(t)是宽遍历随机过程。,142,解：,X(t)不是遍历性过程。,143,4 遍历过程的两个
30、判别定理,均值遍历判别定理,平稳过程X(t)的均值具有遍历性的充要条件,平稳过程X(t)的自相关函数具有遍历性充要条件,自相关函数遍历判别定理,式中：,144,对于正态平稳随机过程，若均值为零，自相关函数 连续，则此过程具有遍历性的一个充分条件为,注意：判断一个平稳过程是否遍历的，我们总是先假设其是遍历的，然后看是否满足定义要求（即时间平均以概率1等于统计平均），一般不用两个判别定理。,5.,145,六、相关函数的测量,对于遍历性过程，可用样本函数的时间相关函数 来代替随机过程的相关函数。,146,方法1：按照实验数据确定,147,方法2：利用积分器，即连续型相关函数测量仪,利用电路实现下式,
31、148,1.4 联合平稳随机过程,基本要求：, 两个随机过程的互相关函数和互协方差函数 的定义。, 两个随机过程联合平稳的定义及判断。, 两个随机过程联合遍历的定义及判断。, 复随机过程的定义及数字特征的计算。,149,1.4 联合平稳随机过程,一 两个随机过程的联合概率分布,设有两个随机过程 和 ,它们的概率密度,分别为,定义这两个过程的(n+m)维联合分布函数为：,150,定义这两个过程的(n+m)维联合概率密度为：,注,151,3）可以由高维联合分布求出它们的低维联合概率分布。,4）若两个随机过程的联合概率分布不随时间平移而变化，即与时间的起点无关，则称此二过程为联合严平稳或严平稳相依。
32、,2）若两个过程的n+m维联合概率分布给定，则它们的全部统计特性也确定了。,152,设两个随机过程 和 ，它们在任意两个时刻t1，t2的取值为随机变量 、 ,则定义它们的互相关函数为：,二 两个随机过程的数字特征,式中，,是随机过程 和,的二维联合概率密度。,1. 互相关函数,153,随机过程 和 的互协方差函数定义为：,式中， 和 分别是随机变量 和,的数学期望。,此式也可以写成,2. 互协方差函数,154,3 统计独立、不相关、正交的概念,1）统计独立,则称随机过程 和 相互独立。,若,155,2) 不相关,若两个随机过程 和 对任意两个时刻,t1, t2都具有 或 ，,3）正交,则称 和
33、 不相关。,若两个随机过程 和 对任意两个时刻,t1, t2都具有 或 ，,则称 和 互为正交过程。,156,(1) 如果两个随机过程相互独立，且他们的二阶矩都存在，则必互不相关。(2) 正态过程的不相关与相互独立等价。,注：,157,三、 联合宽平稳,1. 定义,158,2. 互协方差与互相关系数,当两个随机过程联合平稳时，它们的互协方差,互相关系数,又称作归一化互样关函数或标准互协方差函数。,注： 。当 时，随机变量 和 互不相关。,159,3. 联合宽平稳随机过程互相关函数的性质,(1),证明：按定义即可证明，说明互相关函数既不是偶函数， 也不是奇函数。,互相关函数的影像关系,160,(
34、2),证明：,展开得：,所以，,同理，,161,(3),证明：,由性质(2)，得,注意到,162,四、 联合宽遍历,163,平稳随机过程 X(t)和Y(t)的互相关函数为：,故这两个随机过程是平稳相依的。,故KXY()仅在 时等于零，所以X(t1)和Y(t2)是相关的，因而它们不是统计独立的。,解：,164,必须首先判断随机过程 X(t)和Y(t)的平稳性以及它们的联合平稳性。,解：,因此X(t)是平稳的。,因此Y(t)是平稳的。,因此X(t)和Y(t)是联合平稳的。,165,因此X(t)和Y(t)是联合遍历的。,166,四、复随机过程,1.复随机变量,(1) 定义,(2) 分布函数,即由X,
35、Y的联合概率分布描述。,167,(3) 数字特征, 数学期望,方差,注：)复随机过程的方差等于它的实部与虚部的方差之和)复随机过程的方差为非负的实数。,168,相关矩,设Z1、Z2为两个复随机变量，则,互协方差,169,(4) 两个复随机变量的独立、不相关、正交,1）统计独立,2）不相关,3）正交,170,2.复随机过程,(1) 定义,设 ， 为实随机过程，则定义,Z(t)=X(t)+jY(t),为复随机过程。,(2) 概率密度函数,Z(t)的统计特性可由X(t)和Y(t)的2n维联合概率分布完整地描述，其概率密度为：,171,(3) 数字特征,数学期望, 方差, 自相关函数,172,自协方差
36、函数,(4) 平稳性,若复随机过程Z(t)满足：,则复随机过程为宽平稳过程。,173,互相关函数,互协方差函数,(5) 两个复随机过程的联合平稳性,174,175,例3. 设U和V是不相关的随机变量，并且均值都为0， 方差都为1，问复随机过程Z(t)=Ucost+jVsint的平稳性。,解：,Z(t)是宽平稳的,176,解：,Z(t)是宽平稳的,177,1.5 正态随机过程,一、 正态随机过程的一般概念,如果随机过程X(t)的任意n维概率分布都是正态分布，则称它为正态随机过程或高斯随机过程，简称正态过程或高斯过程。,178,概率密度函数,式中,mX是n维向量，K是n维阵：,179,正态随机过程
37、的概率密度函数由它的一、二阶矩（均值、方差和相关系数完全决定）。,推论:,若复正态随机过程Z(t)的n个采样时刻得到n个复随机变量，即,其中, Xi、Yi皆为实随机变量。此n个复随机变量的联合概率密度应是2n维随机变量的联合概率密度。,180,二 、平稳正态随机过程,1. 平稳正态随机过程的定义,若正态随机过程满足下列条件，则它是宽平稳（平稳）正态随机过程。,181,2. 平稳正态过程的n维概率密度,平稳正态过程一、二维概率密度表达式,182,三、 正态随机过程的性质,正态随机过程的n维概率密度完全由它的均值集合，协方差函数集合所确定。,性质1：,性质2：,正态过程的严平稳与宽平稳等价。,证明
38、：,由于正态过程的均方值总是有界的， 因此严平稳正态过程一定是宽平稳的。,183,证明严平稳，即证明,由于正态随机过程的概率密度函数完全由均值和协方差函数决定。,设,因此只要证明,184,由于X(t)是宽平稳，因此它的数学期望为一常数，即有,对任意的i和k,由宽平稳性,由宽平稳性,因此是严平稳的随机过程。,185,正态过程的不相关与相互独立等价。,性质3：,若X(t)在n个不同时刻采样得到一组随机变量X1, X2,Xn,证明：,（1）如果Xn（n1,2,）两两之间相互独立，则,（2）如果Xn（n1,2,）两两之间互不相关，则,当 时。所以，两两互不相关。,186,即两两相互独立。,因此,所以,
39、则,187,性质4：平稳正态过程与确定信号之和仍为正态分布。,若正态过程X(t) 在T上均方可微，则其导数X(t)也是正态过程。,性质5：,若正态过程 X(t) 在T上均方可积，则积分过程,性质6：,也是正态过程。,188,正态随机过程通过线性系统后的输出仍为正态过程。,性质7：,推论： 正态过程的线性变换仍为正态过程。,189,190,解：,由题知Y是服从正态分布的随机变量。,191,192,时,193,时,194,1.6 马尔可夫链,基本要求：, 理解马尔可夫链的定义,掌握马尔可夫链转移概率的定义，会求一步转移概率及任意n步转移概率。,掌握马尔可夫链初始分布和绝对分布的概念，会求绝对分布。
40、 会判断马尔可夫链的遍历性，会求极限分布。,能由转移概率矩阵画出状态转移图，对状态进行分类。,195,回 顾,1. 随机过程分类,按照时间和状态空间的连续性，随机过程分成以下四类：, 连续型随机过程, 离散型随机过程, 离散型随机序列, 连续型随机序列,时间连续、随机变量连续,时间连续、随机变量离散,时间离散、随机变量连续,时间离散、随机变量离散,马尔可夫链属于离散型随机序列。,问题：时间离散型随机过程的联合概率和数字特征如何描述？,时间离散型 随机过程,196,2. 全概率公式,197,一、马尔可夫过程,当随机过程在时刻 ti 所处的状态已知的条件下，过程在时刻 所处的状态与过程在时刻 以前
41、的状态无关，而仅与过程在 所处的状态有关。这种特性称为随机过程的“无后效性”或马尔可夫性。,1.马尔可夫性或无后效性,2.定义,已经知道随机过程现在的条件下，其将来的条件分布与过去无关,198,3. 分类T和E都取连续集时，称为马尔可夫过程。若T取连续集而E取离散集时，称为可列马尔可夫过程。若T取离散集而E取连续集时，称为马尔可夫序列。若T和E都取离散集时，称为马尔可夫链。,199,二、马尔可夫链定义,200,三、马尔可夫链的转移概率及性质,主要内容：, 转移概率,一步转移概率矩阵和n步转移概率矩阵及两者之间的关系,初始分布和绝对分布，绝对分布与转移概率之间的关系,由转移概率矩阵画状态转移图,
42、201,1. 转移概率,注：若 的取值与m无关，则称该马氏链为齐次马氏链。,202,一步转移概率 在齐次条件下，令式（1.6.9）中,称为一步转移概率矩阵。,（1）,（2）,2.一步转移概率,Xm 的 状 态,Xm+1的状态,注：,在时刻m，马氏链从任何一个状态出发，到 m+1时刻，必然转移到E中的状态之一。,203,例1. 在某数字通信系统中多级传输0、1两种数字信号。由于系统中存在干扰，在任一级输入0、1数字信号后，其输出不产生错误的概率为p，产生错误的概率为q=1-p ，求一级传输时的概率转移矩阵。,解：系统每一级的输入状态和输出状态构成一个两状态的马氏链，其一步转移概率矩阵为,典型的二
43、进制对称信道(BSC),204,例2. 已知明日是否降雨只与今日的天气有关，与以往的天气无关，并且今日有雨而明日有雨的概率为0.6，今日无雨而明日有雨的概率为0.3，试写出其一步转移概率矩阵。,解：令有雨为状态 “1”，无雨为状态 “0，由题得,205,例3. 设一随机游动的质点Q在图示的直线点集E=1，2，3，4，5上做随机游动，且仅在1秒、2秒等时刻游动，游动规则是： 若Q出现在i点(1i5)，则在下一时刻各以1/3的概率向左或向右移动，以1/3的概率留在原处， 若Q出现在1(或5)处，则下一时刻以概率1移动到2(或5)上。 试写出其一步转移概率矩阵。,解：,206,3. n步转移概率,时
44、，可得到,可构成,n步转移概率矩阵,由所有n步转移概率,（1）,（2）,为了数学处理便利，通常规定,步转移概率,207,4切普曼-柯尔莫哥洛夫方程（C-K方程）,对于 步转移概率，有如下的切普曼-柯尔莫哥洛夫方程的离散形式,含义：马氏链在m时刻处于i状态下，经k+l步转移至m+k+l 时到达状态j，可以先在m时刻从状态i出发，经l步到达某个 中间状态r，再在m+l时刻从状态r出发，经k步到达状态j。 中间状态要取遍整个状态空间E,208,证明：,由全概率公式,由无后效性,209,若用概率矩阵表示，有,当,时，有,同理可推出，当,时，有,即任意k步转移概率矩阵可由一步转移概率矩阵自乘k次来得到。
45、,210,例4(例2续). 已知明日是否降雨只与今日的天气有关，与以往的天气无关，并且今日有雨而明日有雨的概率为0.6，今日无雨而明日有雨的概率为0.3，试 写出其一步转移概率矩阵。 求二至四步转移概率矩阵。 求今日有雨而后日(第二日)仍有雨的概率。 求今日无雨而第四日有雨的概率。,解: (1) 令有雨为状态 “1”，无雨为状态 “0，由题得,211,(2),(3),有二步转移概率矩阵P(2)得今日有雨而后日(第二日)仍有雨的 概率为0.48,(4),有四步转移概率矩阵P(4)得今日无雨而第四日有雨的 概率为0.4251,212,5初始分布与绝对分布,(1) 初始分布定义,则称 为该马氏链的初
46、始分布，也称初始概率。,213,(2) 绝对分布定义,则称 为该马氏链的绝对分布，也称绝对概率。,214,(3) 绝对分布计算,定理1.马氏链的绝对概率由初始分布和相应的转移概率唯一确定。,证：设,为一马氏链，,为状态集，则对任意,时马氏链处于状态j,的概率为,215,时，绝对概率由下式确定：,即:绝对概率 由初始概率 及n步转移概率 唯一确定。,利用C-K方程，则n步转移矩阵可由一步转移矩阵唯一确定。,当,推论：马氏链的绝对概率由初始分布及一步转移概率唯一确定。,216,由马氏链的转移概率和初始分布，不仅可以完全确定其绝对分布，也可以完全确定其有限维分布。即,5马氏链有限维分布的计算,217
47、,218,解：,219,220,221,例6(例1续). 在某数字通信系统中多级传输0、1两种数字信号。由于系统中存在干扰，在任一级输入0、1数字信号后，其输出不产生错误的概率为p=0.9，产生错误的概率为q=1-p=0.1 ，求 一级传输时的概率转移矩阵。 求二级传输后的传真率和三级传输后的误码率。 设初始分布p(x0=0)=a,p(x0=1)=1-a，且二级传输后的输出为1，求原发数字也为1的概率,解：(1)系统每一级的输入状态和输出状态构成一个两状态的马氏链，其一步转移概率矩阵为,222,二级传输后的传真率为0.82,三级传输后的误码率为0.244,223,7. 转移图（状态转移图与概率转移图）,
