1、第1页,2019/9/7,第三章 随机过程,为什么要学习随机过程？ 信号是不可预知的，有一定的随机性，否则失去了传输的价值； 噪声是随机的，例如热噪声； 信号的传输特性，例如移动通信：电磁波的传播路径不断变化，接收信号随机变化。,信号、噪声、信道传输特性都是随机变化的！,第2页,2019/9/7,第三章 随机过程,本章重点： 随机过程的分布函数 随机过程的数字特征 几种重要随机过程的统计特性（平稳随机过程；高斯随机过程；窄带随机过程；正弦波加窄带高斯噪声；高斯白噪声；带限白噪声） 随机过程通过线性系统,第3页,2019/9/7,3.1 随机过程的基本概念,一、概率及随机变量 二、随机过程的定义
2、与描述 三、随机过程的分布函数与概率密度函数 四、随机过程的数字特征,第4页,2019/9/7,(1) 概率 随机事件 随机试验 概率 联合概率 条件概率 条件概率与联合概率的关系 贝叶斯准则 统计独立事件,3.1 随机过程的基本概念,一、概率及随机变量,第5页,2019/9/7,(2) 随机变量 随机变量 概率分布函数 概率密度函数 联合分布函数 联合概率密度函数 边缘概率密度函数 条件概率密度 联合概率密度与条件概率密度的关系,3.1 随机过程的基本概念,一、概率及随机变量,第6页,2019/9/7,(3) 随机变量的数字特征 数学期望 方差,3.1 随机过程的基本概念,一、概率及随机变量
3、,第7页,2019/9/7,什么是随机过程？随机过程是一类随时间作随机变化的过程，它不能用确切的时间函数描述。举例如下： 设有n台性能完全相同的接收机。在相同的工作环境和测试条件下记录各台接收机的输出噪声波形（这也可以理解为对一台接收机在一段时间内持续地进行n次观测）。 测试结果表明，尽管设备和测试条件相同，记录的n条曲线中找不到两个完全相同的波形。这就是说，接收机输出的噪声电压随时间的变化是不可预知的，因而它是一个随机过程。,3.1 随机过程的基本概念,二、随机过程的定义与描述,第8页,2019/9/7,3.1 随机过程的基本概念,图 3- 1样本函数的总体,第9页,2019/9/7,由此我
4、们给随机过程下一个定义：每一次试验都有一条时间波形(称为样本函数或实现),记作xi(t)；所有可能出现的结果的总体x1(t), x2(t)， , xn(t)， 就构成一随机过程，记作(t)。无穷多个样本函数的总体叫做随机过程。,3.1 随机过程的基本概念,二、随机过程的定义与描述,第10页,2019/9/7,在纵向： (t1) =x1(t1), x2(t1), , xn(t1) 是随机变量，是样本。,随机过程看作是在时间进程中处于不同时刻的随机变量的集合。,无穷多个样本函数的总体叫做随机过程。,在横向： 仅是一个实现，或者说是样本函数。,3.1 随机过程的基本概念,二、随机过程的定义与描述,第
5、11页,2019/9/7,随机过程基本特征体现在两个方面(两重性)： 它是一个时间函数； 在任一时刻观察到的值是不确定的，即是一个随机变量 。因此，我们又可以把随机过程看成是与时间有关的随机变量。,3.1 随机过程的基本概念,二、随机过程的定义与描述,第12页,2019/9/7,随机过程的特点： 随机过程与随机变量：两者是相似的，不同之处在于随机变量的样本空间是一个实数的集合；随机过程的样本空间是一个时间函数集合。 随机过程的特点：随机过程兼有随机变量和时间函数的特点：就某一瞬间来看，它是一个随机变量；就它的一个样本来看，则是一个时间函数。,3.1 随机过程的基本概念,二、随机过程的定义与描述
6、,第13页,2019/9/7,设 (t) 表示一个随机过程，则它在任意时刻 t1 的值 (t1)是一个随机变量，其统计特性可以用分布函数或概率密度函数来描述。(1) 随机过程 (t) 的一维分布函数：(2) 随机过程 (t) 的一维概率密度函数：（若式中的偏导存在的话）,3.1 随机过程的基本概念,三、随机过程的分布函数与概率密度函数,第14页,2019/9/7,对任意固定的 t1 和 t2 时刻：(3) 随机过程 (t) 的二维分布函数：(4) 随机过程 (t) 的二维概率密度函数： （若式中的偏导存在的话）,3.1 随机过程的基本概念,三、随机过程的分布函数与概率密度函数,第15页,201
7、9/9/7,任意给定 t1, t2, , tnT：(5) 随机过程 (t) 的 n 维分布函数：(6) 随机过程 (t) 的 n 维概率密度函数：n越大，对随机过程统计特性的描述就越充分。,3.1 随机过程的基本概念,三、随机过程的分布函数与概率密度函数,第16页,2019/9/7,(1) 均值（数学期望）： 在任意给定时刻 t1 的取值 (t1) 是一个随机变量，其均值：式中 f (x1, t1) (t1) 的概率密度函数 由于t1是任取的，所以可以把t1直接写为t，x1改为x，这样上式就变为：(t) 的均值是时间的确定函数，常记作 a(t)，它表示随机过程的 n 个样本函数曲线的摆动中心。
8、,3.1 随机过程的基本概念,四、随机过程的数字特征,第17页,2019/9/7,(1) 均值（数学期望）： 在任意给定时刻 t1 的取值,3.1 随机过程的基本概念,四、随机过程的数字特征,a(t),第18页,2019/9/7,(2) 方差方差常记为 2(t)。这里也把任意时刻 t1 直接写成了 t 。因为：所以：方差等于均方值与均值的平方之差，它表示随机过程在时刻 t对于均值 a(t) 的偏离程度。,3.1 随机过程的基本概念,四、随机过程的数字特征,均方值,均值的平方,第19页,2019/9/7,(3) 协方差函数 数学期望和方差描述了随机过程在单独一个瞬间的特征，它们并没有反映随机过程
9、在不同瞬间的内在联系。如图所示： 两个随机过程 X(t) 和 Y(t) 具有大致相同的数学期望和方差，但内部结构却有明显的差别； X(t) 的样本随时间变化较缓慢，不同瞬间（例如 t1 和 t2）取值有较强的相关性； Y(t) 的样本变化较快，不同瞬间的取值之间相关性较弱。,3.1 随机过程的基本概念,四、随机过程的数字特征,第20页,2019/9/7,(3) 协方差函数,3.1 随机过程的基本概念,四、随机过程的数字特征,数学期望和方差相同的两个随机过程,第21页,2019/9/7,(3) 协方差函数协方差函数式中：a(t1)、a(t2)在 t1 和 t2 时刻的 (t) 的均值f2(x1,
10、 x2; t1, t2)(t) 的二维概率密度函数,3.1 随机过程的基本概念,四、随机过程的数字特征,衡量同一随机过程在任意两个时刻获得的随机变量之间的关联程度。,第22页,2019/9/7,(4) 自相关函数式中：(t1) 和 (t2) 分别是在 t1 和 t2 时刻观测得到的随机变量。可以看出 R(t1, t2) 是两个变量 t1 和 t2 的确定函数。,3.1 随机过程的基本概念,四、随机过程的数字特征,第23页,2019/9/7,(5) 相关函数和协方差函数之间的关系若a(t1)=a(t2)=0，则B(t1,t2)=R(t1,t2) (6) 互相关函数式中 (t) 和 (t) 分别表
11、示两个随机过程。,3.1 随机过程的基本概念,四、随机过程的数字特征,第24页,2019/9/7,3.2 平稳随机过程,一、平稳随机过程的定义 二、各态历经性 三、平稳过程的自相关函数 四、平稳过程的功率谱密度,第25页,2019/9/7,定义：若一个随机过程 (t) 的任意有限维分布函数与时间起点无关，也就是说，对于任意的正整数 n 和所有实数 ，有：则称该随机过程是在严格意义下的平稳随机过程，简称严平稳随机过程。,3.2 平稳随机过程,一、平稳随机过程的定义,第26页,2019/9/7,性质：该定义表明，平稳随机过程的统计特性不随时间的推移而改变，即它的一维分布函数与时间 t 无关：而二维
12、分布函数只与时间间隔 =t2t1 有关：,3.2 平稳随机过程,一、平稳随机过程的定义,第27页,2019/9/7,数字特征：可见：(1) 其均值与 t 无关，为常数 a；(2) 自相关函数只与时间间隔 有关。,3.2 平稳随机过程,一、平稳随机过程的定义,第28页,2019/9/7,把同时满足(1)和(2)的过程定义为广义平稳随机过程。 显然：严平稳随机过程必定是广义平稳的，反之不一定成立。 在通信系统中所遇到的信号及噪声，大多数可视为平稳的随机过程。因此，研究平稳随机过程有重要的实际意义。,3.2 平稳随机过程,一、平稳随机过程的定义,第29页,2019/9/7,(1) 问题的提出：随机过
13、程的数字特征（均值、相关函数）是对随机过程的所有样本函数的统计平均，但在实际中常常很难测得大量的样本，这样，我们自然会提出这样一个问题：能否从一次试验而得到的一个样本函数 x(t) 来决定平稳过程的数字特征呢?,3.2 平稳随机过程,二、各态历经性,第30页,2019/9/7,(2) 回答是肯定的：平稳过程在满足一定的条件下具有一个有趣而又非常有用的特性，称为“各态历经性”（又称“遍历性”）。具有各态历经性的过程，其数字特征（均为统计平均）完全可由随机过程中的任一实现的时间平均值来代替。,3.2 平稳随机过程,二、各态历经性,第31页,2019/9/7,(3) 各态历经性条件设：x(t) 是平
14、稳过程 (t) 的任意一次实现（样本），则其时间均值和时间相关函数分别定义为：如果平稳过程使下式成立：则称该平稳过程具有各态历经性。,3.2 平稳随机过程,二、各态历经性,第32页,2019/9/7,(3) 各态历经性条件,3.2 平稳随机过程,二、各态历经性,统 计 平 均 和 时 间 平 均 示 意 图,第33页,2019/9/7,(4) “各态历经”的含义：随机过程中的任一次实现都经历了随机过程的所有可能状态。因此，在求解各种统计平均（均值或自相关函数等）时，无需作无限多次的考察，只要获得一次考察，用一次实现的“时间平均”值代替过程的“统计平均”值即可，从而使测量和计算的问题大为简化。,
15、3.2 平稳随机过程,二、各态历经性,第34页,2019/9/7,(5) 具有各态历经的随机过程一定是平稳过程，反之不一定成立。在通信系统中所遇到的随机信号和噪声，一般均能满足各态历经条件。,3.2 平稳随机过程,二、各态历经性,第35页,2019/9/7,例1,求,第36页,2019/9/7,第37页,2019/9/7,平稳过程自相关函数的定义：设(t)为实平稳随机过程，则它的自相关函数为： R()= E(t)(t+),3.2 平稳随机过程,三、平稳过程的自相关函数,第38页,2019/9/7,平稳过程自相关函数的性质：(1) R(0)=E2(t) (t) 的平均功率(2) R()=R()
16、的偶函数(3) |R()|R(0) R() 的上界。即自相关函数 R() 在 =0 有最大值。 (4) R()=E2(t)=a2 (t) 的直流功率（当时，(t) 和(t+)没有任何依赖关系，即统计独立）(5) R(0)R()=2（2是方差，表示平稳过程 (t) 的交流功率。当均值为0时，有R(0)=2）,3.2 平稳随机过程,三、平稳过程的自相关函数,第39页,2019/9/7,平稳过程的功率谱密度定义：对于任意的确定功率信号f(t)，它的功率谱密度定义为：式中：FT(f ) 是 f(t) 的截短函数 fT(t) 所对应的频谱函数。,3.2 平稳随机过程,四、平稳过程的功率谱密度,第40页,
17、2019/9/7,平稳过程的功率谱密度定义：对于平稳随机过程 (t)，可以把 f(t) 当作是 (t) 的一个样本；某一样本的功率谱密度不能作为过程的功率谱密度。过程的功率谱密度应看作是对所有样本的功率谱的统计平均，故 (t) 的功率谱密度可以定义为：,3.2 平稳随机过程,四、平稳过程的功率谱密度,第41页,2019/9/7,功率谱密度的计算：维纳辛钦定理：非周期的功率型确知信号的自相关函数与其功率谱密度是一对傅里叶变换。这种关系对平稳随机过程同样成立，即有：简记为：维纳辛钦定理在平稳随机过程的理论和应用中是一个非常重要的工具，它是联系频域和时域两种分析方法的基本关系式。,3.2 平稳随机过
18、程,四、平稳过程的功率谱密度,第42页,2019/9/7,功率谱密度的计算：在维纳辛钦关系的基础上，我们可以得到以下结论：(1) 对功率谱密度进行积分，可得平稳过程的总功率：上式从频域的角度给出了过程平均功率的计算法。(2) 各态历经过程的任一样本函数的功率谱密度等于过程的功率谱密度。也就是说，每一样本函数的谱特性都能很好地表现整个过程的谱特性。【证】,3.2 平稳随机过程,四、平稳过程的功率谱密度,第43页,2019/9/7,功率谱密度的计算：(3) 功率谱密度 P(f) 具有非负性和实偶性，即有：P(f)0，P(f)= P(f)，这与R()的实偶性相对应。【例3-2】求随机相位余弦波 (t
19、)=Acos(ct+ ) 的自相关函数和功率谱密度。【解】,3.2 平稳随机过程,四、平稳过程的功率谱密度,第44页,2019/9/7,3.3 高斯随机过程 (正态随机过程),一、什么是高斯随机过程 二、重要性质 三、高斯随机变量,第45页,2019/9/7,如果随机过程 (t) 的任意 n 维（n=1, 2, ）分布均服从正态分布，则称它为正态过程或高斯过程。n 维正态概率密度函数表示式为：式中： ，|B|归一化协方差矩阵的行列式，即：,3.3 高斯随机过程 (正态随机过程),一、什么是高斯随机过程？,第46页,2019/9/7,|B|jk行列式 |B| 中元素 bjk 的代数余因子bjk为
20、归一化协方差函数，即：,3.3 高斯随机过程 (正态随机过程),一、什么是高斯随机过程？,第47页,2019/9/7,(1) 由高斯过程的定义式可以看出，高斯过程的 n 维分布只依赖各个随机变量的均值、方差和归一化协方差。因此，对于高斯过程，只需要研究它的数字特征就可以了。 (2) 广义平稳的高斯过程也是严平稳的。因为，若高斯过程是广义平稳的，即其均值与时间无关，协方差函数只与时间间隔有关，而与时间起点无关，则它的 n 维分布也与时间起点无关，故它也是严平稳的。所以，高斯过程若是广义平稳的，则也严平稳。,3.3 高斯随机过程 (正态随机过程),二、重要性质,第48页,2019/9/7,(3)
21、如果高斯过程在不同时刻的取值是不相关的，即对所有jk，有bjk=0，则其概率密度可以简化为这表明，如果高斯过程在不同时刻的取值是不相关的，那么它们也是统计独立的。,3.3 高斯随机过程 (正态随机过程),二、重要性质,第49页,2019/9/7,(4) 高斯过程经过线性变换后生成的过程仍是高斯过程。也可以说，若线性系统的输入为高斯过程，则系统输出也是高斯过程。,3.3 高斯随机过程 (正态随机过程),二、重要性质,第50页,2019/9/7,(1) 定义：高斯过程在任一时刻上的取值是一个正态分布的随机变量，也称高斯随机变量，其一维概率密度函数为：式中：a均值 2方差曲线如右图：,3.3 高斯随
22、机过程 (正态随机过程),三、高斯随机变量,第51页,2019/9/7,(2) 性质：f(x) 对称于直线 x=a，即：，a 表示分布中心， 称为标准偏差，表示集中程度，图形将随着 的减小而变高和变窄。当 a = 0 和 = 1 时，称为标准化的正态分布：,3.3 高斯随机过程 (正态随机过程),三、高斯随机变量,第52页,2019/9/7,(3) 正态分布函数这个积分的值无法用闭合形式计算，通常利用其他特殊函数，用查表的方法求出：,3.3 高斯随机过程 (正态随机过程),三、高斯随机变量,第53页,2019/9/7,(3) 正态分布函数用误差函数表示正态分布函数：令 则有： 式中： 误差函数
23、，可以查表求出其值。,3.3 高斯随机过程 (正态随机过程),三、高斯随机变量,第54页,2019/9/7,(3) 正态分布函数 用互补误差函数 erfc(x) 表示正态分布函数：这样：当 x2 时：,3.3 高斯随机过程 (正态随机过程),三、高斯随机变量,第55页,2019/9/7,(3) 正态分布函数用Q函数表示正态分布函数：Q函数定义：Q函数和erfc函数的关系：Q函数和分布函数F(x)的关系：Q函数值也可以从查表得到。,3.3 高斯随机过程 (正态随机过程),三、高斯随机变量,第56页,2019/9/7,习 题,思考题：P.613-13-5 习题：P.623-2, 3-3, 3-4,
