1、随机信号分析基础,第一讲,第一讲,绪论 授课内容梗概 教材及参考书 习题及相关内容的期末考试要求 本节课正题 随机信号分析基础,绪论,关于课程内容的标题_随机信号分析基础 随机信号分析研究些什么？与其它先修基础课程有哪些方面的联系？本课程的核心问题？ 学习本课程希望达到的教学目的,授课内容梗概,第一讲 随机信号分析基础 第二讲 平稳过程的线性模型 第三讲 功率谱估计 第四讲 自适应滤波器,教材及参考书,随机信号处理. 张玲华 郑宝玉 . 清华大学出版社数字信号处理. 理论.算法与实现 胡广书. 清华大学出版社现代信号处理. 张贤达. 清华大学出版社Statistical and Adaptiv
2、e Signal Processing .Manolakis D.G. The McGraw-Hill Companies, Inc.,1 随机信号分析基础 随机过程部分内容复习,1.1 随机信号 1.2 随机信号的统计描述 1.3 平稳随机信号 1.4 统计特征估计的质量平价 1.5 随机信号的功率谱 1.6 白噪声信号与谐波信号,1.1 随机信号,随机信号的概念 随机信号的定义 随机信号举例 随机信号的分类,回顾随机变量的定义：设 E 是随机试验， =是其样本空间，如果对于每一个，都有一个实数 X() 与之对应，这样就得到了一个定义在上的单值函数 X()，称 “ X() ”为随机变量，简记
3、为X 。随机变量是定义在样本空间上的样本所对应的一个单值函数X()；对应于不同的样本（一次具体的 E ），X 有着不同的取值；X 的随机性取值在试验完成后得以体现；X 为连续值时称“连续型随机变量”；X 为离散值时称“离散型随机变量”；X 为连续值与离散值的混合值时称“混合型随机变量” 。,随机过程定义1：设 E 是随机试验， =是其样本空间，如果对于每一个，总可依某种规则确定一参数为t的实值函数“X(,t), t”与之对应；当取遍时，便得到了定义在 T 上的一族时间t的函数，称它为随机过程。族中的每个函数即为该过程的一个样本函数，称为随机过程的一个“实现”，是参数t的变化范围，称为“参数集”
4、，一般表示时间集合，随机过程可简记为X(t)。随机过程也可看成是变量、t 的函数，其含义分别为：若、t均为变量， X(t)是一个时间函数族；固定、t为变量，指随机过程的一个样本“实现”，X(t)是一个确定的时间函数；t固定、为变量，X(t)是一个随机变量； 、t 均固定，X(t)是该过程某一样本所对应的 t 时刻的函数值。,t,. ,随机过程定义2：若对于每个特定的时刻 ti (i=1,2,)，X(,ti) 都是随机变量，则称 X(,t) 为随机过程。通常，将连续型随机过程 X(,t) 简记为 X(t) ，将该过程的一个样本函数（或称该过程的一个“实现”）简记为 x(t)。将离散型随机过程 X
5、(,n) 简记为 X(n) ，将该过程的一个样本函数（或称该过程的一个“实现”）简记为 x(n)。,t,. ,1：对于每一个固定的时刻 ti :,2：在(0,2)内随机抽取一数i :,、是常数，是在(0,2)均匀分布的随机变量,例：,这时X(ti)是一个随机变量；,这时Xi(t)是一个样本函数，是该随机过程的一个“实现”。, 随机相位正弦波是一个随机过程,随机信号举例：,t i,y1(t),X(,t),Y(i,t),y2(t),y3(t),X1(t),X2(t),X3(t),随机相位正弦波,随机噪声,随机信号举例,均匀分布,高斯分布,柯西分布,n,随机信号的分类,按照时间和状态的连续性分类时间
6、及状态取值都连续时间及状态取值都离散时间连续状态离散时间离散状态连续 按照样本函数的形式分类不可预测型随机信号部分可预测型随机信号 按照统计特性分类高斯型过程马尔可夫过程独立增量过程,1.2 随机信号的统计描述,1.2.1 随机信号的概率分布 1.2.2 随机信号的数字特征 1.2.3 随机信号的特征函数 1.2.4 随机信号的导数与积分,1 一维概率分布,t,设 X(t),t T 是随机过程，x为实数，随机过程的一维概率分布描述为：定义：FX(x,t) = PX(t)x 为X(t)的一维分布。如果FX(x,t)的一阶导数存在， 定义：px(x,t) = FX(x,t)/x 为X(t)的一维概
7、率密度。,. ,t1,2 二维及多维概率分布,t,对于任意两个不同时刻 t1 T、t2 T， x1、x2为实数，随机过程的二维 联合概率分布描述为：定义：FX(x1,x2,t1,t2) = PX(t1)x1,X(t2)x2 为X(t)的二维分布。如果FX(x1,x2,t1,t2)的偏导数存在， 定义：pX(x1,x2,t1,t2) = 2FX(x1,x2,t1,t2)/x1x2 为X(t)的二维概率密度。,可仿此类推多维分布的情形,. ,. ,t1,t2,1.2.2 随机信号的数字特征,随机信号的矩 均值函数（数学期望） 均方函数与方差函数 自相关函数与自协方差函数 互相关函数与互协方差函数
8、随机信号间的 “独立、不相关、正交” 关系,随机信号的矩,均值函数（数学期望）,在M次测量中，测得结果为x1的次数m1、测得结果为x2的次数m2、 测得结果为xk的次数mk ：,其测量的算术平均 ：,当M充分大时，m/M 接近于 x 的概率，定义均值 ：,均值与概率密度有关，均值仅对长期（或大量）观察才有意义。,均值函数（数学期望）,称 “ 一阶原点矩 ” ， 为全部样本值在某时刻取值的 “集合平均”、或“统计平均” 均值函数表示了随机过程在各个时刻的摆动中心。,注意：区别于 “时间平均” ：,对于连续时间函数 ：,均方函数与方差函数,t,X1(t),t,X2(t),均方函数（二阶原点矩）：,
9、方差函数（二阶中心矩）：,两者均表示随机信号在时刻 t 对于均值的平均偏离程度,均方函数与方差函数,t,X1(t),t,X2(t),方差函数：,称为“标准差”，同样表示随机信号的分散程度,例：,自相关函数与自协方差函数,t,X1(t),t,X2(t),自相关函数（二阶联合原点矩）：,自协方差函数（二阶联合中心矩）：,表示随机过程在两个不同时刻的状态间的统计关联关系,t,X3(t),二维随机过程：设 X(t),Y(t)是定义在同一样本空间和同一参数集上的随机过程，对于不同的 t，X(t)、Y(t) 分别是不同的两个随机变量，称 X(t),Y(t), t 为二维随机过程。,对于给定的二维随机过程，
10、,或将其称为二维随机过程X(t)、Y(t)的“n+m维联合分布”。,是n+m维随机变量，其n+m维分布为：,将上述概念推广，即可得出多维随机过程及其分布函数、以及概率密度函数的定义（能完整描述 n 维随机过程的分布函数、概率密度函数的维数分别应为 m1+m2+mn 维）。,互相关函数与互协方差函数,t,y(t),互相关函数：,互协方差函数：,表示两个随机信号在两个不同时刻的状态间的统计关联关系,t,X(t),互相关应用举例：,举例： 求两个随机数据序列的协方差,随机信号间的 “独立、不相关及正交关系”,如果 X(t)、Y(t) 统计独立，则有:,随机过程间若相互独立，则必互不相关（反之不一定）
11、 随机过程间的正交性与相关性一般没有直接关系，但若其 中任一随机过程的均值为零，则正交性与相关性是一致的。,如果 X(t)、Y(t) 互不相关，则有：,如果 X(t)、Y(t) 相互正交，则有：,例题：,例：试说明：相关函数是一、二阶数字特征中最主要的统计特征,Rx( ),Rx(0),2,mx,2,1.2.3 随机信号的特征函数,1.2.4 随机信号的导数与积分,随机信号数字特征的微积分,1.3 平稳随机信号,1.3.1 平稳随机过程的概念,1.3.2 严平稳过程（狭义平稳、强平稳）,1.3.3 宽平稳过程（广义平稳、弱平稳）,1.3.4 平稳随机过程的各态历经（遍历）性,1.3.5 高斯(正
12、态)过程,1.3.1 平稳随机过程的概念,平稳随机过程的主要特征：过程的统计特性不随时间改变。,* 平稳随机过程分析方法简单，对于平稳随机过程已建立起了一套完整、有效、成熟的理论分析和实验研究方法。* 实际应用中的许多非平稳随机过程大都可以在一定条件下被近似看作平稳过程，或分段看作短时平稳过程。* 非平稳随机过程的理论分析相对复杂、相对不成熟。,实际问题多为非平稳过程，为何单独要研究平稳过程？,1.3.2 严平稳过程（狭义平稳、强平稳）,如果对于任意的 n ，都有 t1,t2, tnT , 和任意实数T ，使得 n 维随机变量：,具有相同的分布函数，则称随机过程 X(t), T 是严平稳（狭义
13、平稳）随机过程。,从分布函数描述：,从数字特征描述：,对所有整数1kn和所有t1、t2、tk及，其k阶矩有界； 2. 其k阶矩与时间起点无关：mx(t1、tk) = mx(t1+,tk+)则该随机过程是平稳的（严平稳）。,由于严平稳过程的均值、方差都是与时间无关的常数。因此 样本曲线都在均值的水平线周围波动，其分散度由方差决定,1.3.3 宽平稳过程（广义平稳、弱平稳）,问题： “ 严平稳过程同时必是宽平稳的么？” “ 严平稳过程不一定是宽平稳的么？”,由上述第2、3项特征导致： 宽平稳随机过程的协方差函数也与时间起点无关：,宽平稳随机过程的统计特征,例：对随机相位信号讨论其平稳性,A、0为常
14、数，为(0,2)上均匀分布的随机变量,例：对随机相位信号讨论其平稳性,A、0为常数，为(0,/2)上均匀分布的随机变量,1.3.4 平稳随机过程的各态历经（遍历）性,问题的提出：以随机过程的数字特征作为统计分析手段虽然十分有效实用，但这 些数字特征本身如何获取？ 是否按照各阶矩的定义去计算？ 是否需要 通过分析观察大量的样本函数之后再求其“集平均”获取？,对于各态历经随机过程，可用该过程的一个样本函数的时间平均计算 该随机过程的集合平均，各态历经性保证了两种平均以概率1相等。,各态历经随机过程的部分运算特性：,从一个特例看各态历经过程的一、二阶矩函数的物理意义,RX( ),RX(0),2,mX
15、,2,例：判断下述随机过程是否各态历经,例：对随机相位信号讨论其是否各态历经,如何判定某随机过程是各态历经的？,如何判定某随机过程是各态历经的？,统计实验分析的理论基础是随机过程的各态历经性假设,实际处理问题时，常常先假定信号是平稳的、 再假定是各态历经的，做完统计分析工作后 再对结果检验这种假设的正确性并加以修正。,高斯(正态)过程,随机向量(N维随机变量),高斯(正态)过程,高斯过程的一些重要特性,高斯过程是二阶矩过程； 由一阶矩和二阶矩即可确定其任意有限维分布； 对于高斯过程，若是宽平稳的则必然也是严平稳的； 对于高斯过程，若两个时刻信号值不相关则必然也统计独立； 高斯过程与确定信号之和
16、的概率密度仍为高斯型的； 高斯过程经过任意线性变换，仍然为高斯过程。,例：,1.4 统计特征估计的质量评价,本课程提到的估计理论涉及三个方面：（1） 根据观测样本讨论如何直接对样本的各类统计特性作出估计，并对这类估计结果的优劣提出一些客观评价标准，这部分内容是估计问题中最基本的一类问题，是後两类问题的基础；（估计量的评价问题）（2）对于观测样本，其波形 y(t) = s(t;1,2,N) + x(t) 已知，只是其中若干参数1,2,待定，待定参数可能分别为确定量或随机量，这类问题称“信号的参量估计”，通信领域存在大量此类问题，相应的估计方法有最小均方误差估计、最小二乘估计、最大似然估计、最大后
17、验概率估计等；（静态估计问题）（3）根据观测样本对时间信号的波形（状态）作估计。（动态估计问题）,1.4 统计特征估计的质量平价,1.4.1 估计的基本统计性能(评价)指标：估计的偏 估计的方差 估计的均方误差 1.4.2 对一些典型数字特征的估计：均值的估计 方差的估计,、,= 0,1.4.2 对一些典型数字特征的估计：,1.4.2 对一些典型数字特征的估计：,对上述估计运算的补充说明：,1.5 随机信号的功率谱,1.5.1、确定性信号的能量谱与功率谱 1.5.2、平稳随机信号的功率谱 1.5.3、平稳随机信号的相关函数与功率谱的性质,1.5.1、确定性信号的能量谱与功率谱,1.5.2、平稳
18、随机信号的功率谱,“对平稳随机信号，功率谱密度函数与自相关函数 是一对傅里叶变换。” Wiener(美)-Khinchine(俄) 定理,例：已知平稳随机信号X(n)的自相关函数：RX(m)=a|m|，|a|1，试求其功率谱。,例：给定平稳过程的功率谱密度，求其相关函数与平均功率。,1.5.3、平稳随机信号的相关函数与功率谱的性质,对实平稳随机信号，易证以下性质成立：1. R()、s() 均为实偶函数 2. s() 非负、R(0)|R()| 3.周期平稳过程的自相关函数也是周期函数，其周期与过程的周期相同R(+T) = EX(t)X(t+T) = EX(t)X(t+) = R() 4.对不含周期分量的非周期平稳过程，满足：,1.6 白噪声信号与谐波信号,1.6.1 线性时不变系统的时频关系 1.6.2 白噪声信号 1.6.3 谐波过程,1.6.1 线性时不变系统的时频关系,1.6.2 白噪声信号,t,0,0,RW(),SW(),一般称“平谱”,高斯白噪声及其数据值分布直方图：,均匀白噪声及其数据值分布直方图：,分析例题,1.6.3 谐波过程,谐波过程,0,S(),一般称“线谱”,习题,
