1、现代信号处理,何继爱,课程要求,适用专业：信息与通信工程、物联网工程、电子与通信 课程性质：学位课 学 时 数：32 学 分 数：2 考核方式：专题报告（20%）+课程总结（10%）+作业10%+考试（60%） 课堂要求： 遵守课堂纪律 对是否做笔记不做硬性规定,前言,数字信号处理（DSP，Digital Signal Processing）：用数字计算机或其它专用数字设备，以数值计算的方式对离散时间信号进行分析、处理。 传统数字信号处理 :主要针对线性时不变离散时间系统，用卷积、离散时间傅里叶变换、z变换等理论对确定信号进行处理。 现代数字信号处理:在传统数字信号处理理论基础之上，基于概率统
2、计的思想，用数理统计、优化估计、线性代数和矩阵计算等理论进行研究，处理的信号通常是离散时间随机过程，且系统可能是时变、非线性的。,前言数字信号处理理论与算法,数字信号处理理论（theory）：根据从工程实际中抽象出的信号模型和系统模型，用数学理论进行严格证明得到的定理等结论。 数字信号处理算法(algorithm)：为高速或高效实现某种数字信号处理理论，所采用的计算方法或计算技巧。 例：DFT是理论；FFT是实现DFT的计算技巧，属算法。,前 言数字信号处理的实现,非实时实现（ not real-time implementation ）：用高级计算机语言，在通用计算机上实现的信号处理理论和算
3、法；通常是对信号事后分析与仿真；如对采集的接收数据进行特征分析，参数提取与估计等。 实时实现（ real-time implementation ）： 用数字信号处理器或专用数字器件对信号进行实时处理，如： DSP processor (TI, AD)； FPGA/CPLD；专用器件；或通用计算机等。,前言现代信号处理主要内容,前 言,教材： 张贤达. 现代信号处理, 清华大学出版社（第三版）. 参考资料： Simon Haykin. “Adaptive Filtering Theory”； 现代数字信号处理及其应用；何子述，夏威等；清华大学出版社 现代信号处理教程；胡广书 编著；清华大学出版
4、社 现代数字信号处理；姚天任主编； 数字信号处理-时域离散随机信号处理；丁玉美 现代数字信号处理 ；杨绿溪 ；科学出版社 习题：解答题；仿真题 考试：开卷笔试； 成绩：完成习题+专题报告+考试；,本课程教学内容,基础知识（离散时间信号与系统；离散时间随机过程） 功率谱估计 维纳滤波和卡尔曼滤波 自适应滤波 阵列信号处理与空域滤波 盲信号处理理论,现代信号处理,第一章 基础知识,信号与信号空间的基本概念 离散时间系统 确定性信号的相关函数 信号的傅里叶变换 随机信号的功率谱 信号的参数模型,本科数字信号处理课程内容,特点：确定性信号处理、针对确定性离散序列 两大内容: 变换 滤波 其实两者没有本
5、质的区别。,本科数字信号处理课程内容,一般的数字信号处理系统,本科数字信号处理课程内容,两个基本问题,离散时间系统的描述：差分方程、状态方程、时间域响应、频率域响应、结构形式、结构特点滤波器。 离散时间信号的描述，以及如何简化离散时间系统的分析、设计与实现：z变换、DTFT、DFT、FFT等主要是各种变换。,1.1 信号与信号空间的基本概念,信号及其分类 噪声 信号空间,一、信号及其分类,在信号处理学科中，一般用数学函数 x(t)来表 述实际的物理信号。当函数的自变量是连续变量时，例如x(t)，称 之为连续时间信号；当自变量是离散变量，例如 x(n)，称之为离散时间信号，又称为序列。本书主要讨
6、论离散时间信号。,1.序列及其表示,序列及其表示时域离散信号是指那些在离散时间变量时才有定义的信号。若它是从时域 连续信号均匀抽样得到的，则将时刻的信号值定义为离散信号 值，即 而在 时刻就没有定义。 表示连续信 号。,1.序列及其表示,序列可以用 来表示，为简便计算也可用表示。例如 其中箭头所指的值表示n=0时x(n)的值 序列的另一种表示方法是用图形表示。,2.几种常用信号,单位采样序列单位冲激信号,2.几种常用信号,单位阶跃序列单位阶跃信号与 的关系为,2.几种常用信号,正弦序列 式中，A为幅度，为数字域频率， 为初相， 的单位为弧度。 若把模拟信号中的角频率记为 ，且正弦序列是由模拟正
7、弦信号经取样后得到 的，则有 ，其中 为取样周期。由于， 为取样频率( )，所以又 被称为归一化频率。 复正弦序列,3.任意信号的表示,信号,直流分量+交流分量,偶分量+奇分量,实部分量+虚部分量,脉冲分量,正交分量,分解结果是唯一的,3.任意信号的表示, 任意信号都可用单位取样序列的移位加权和来表示,信号的脉冲分量分解,3.任意信号的表示,正交函数：,如果在区间(t1,t2)上,函数f1(t)和f2(t)互不含有对方的分量，则称f1(t)与f2(t)在(t1,t2)上正交,函数正交的充要条件是它们的内积为0,函数f1(t)和f2(t)在(t1,t2)上的内积：,如果一个函数可以用一组相互正交
8、的函数的线性组合来表示，我们就称某个正交函数与相应的线性系数的乘积为该正交函数上的正交分量。,3.任意信号的表示,gn(t): 1nN是区间(t1,t2)上的正交函数集的条件：,任一函数 f (t)在(t1,t2)上可表示为正交函数集内函数的线性组合。,正交分量的系数,4.信号的分类,周期信号与非周期信号对于序列 ，若有 ，k为整数，N为正整数，则称 为周期信号，并将满足此式的最小正整数N，称为该周期信号的周期；否则， 为非周期信号。,4.信号的分类,确定性信号与随机信号若 在任意n时刻的值皆能被精确地确定，则称此信号为确定性信号；若 在n时刻的值需要按某种分布律随机确定，则此信号称为随机信号
9、。,4.信号的分类,能量信号与功率信号序列的能量定义为若 ，称为能量有限信号，简称为能量信号。若 ，则称之为能量无限信号。对这类号，我们转而用功率来描述它们。信号的功率定义为若 ，则称为功率有限信号，简称为功率信 号。,4.信号的分类,多维信号与多通道信号若信号是k个自变量的函数，则称它k维信号。 例如，一维语音信号x(n)，n是时间变量。二维 图象信号x(n, m)，n、m为坐标变量。若信号 是一个m维矢量，即则称 为m通道信号，每个分量代表一个信号 源。,4.信号的分类,采样信号若一个序列 是由一个模拟信号 采样 而成，即 则称 为抽样信号， 为抽样周期。,二、噪声,在信号处理时，对于所采
10、集的信号 ，可以 将其分为两个部分，一是我们感兴趣的部分，称 之为有用信号 ；而其余部分则称之为噪声 若观测信号 可表示为 ，则 称 中含有加性噪声；若 ，则称 中含有乘性噪声；若 ，则称 中含有褶积性噪声。,三、信号空间,信号空间的定义把信号 （或 ）设想为空间X中的一个元 素，即 。此处X为线性空间（在线性代数 中，线性空间即是向量空间）。我们可以用某些 范数来测量给定信号的某个特征量，而对每一类 范数，我们可以定义一个信号空间如下：,1. 信号空间定义,信号 的上述范数 具有下列性质：，若 ，则 为全零信号；，为实数；（三角不等式）。,1. 信号空间定义,对任意两个信号 ，定义信号间的
11、距离为 具有下述性质： 若 ，则称信号 在均方意义下收敛于信号 。（三角不等式）。,2.内积空间,若 与 是信号空间 中的两个信号，其 内积定义为：式中，*表示对信号求共轭运算。若 ，则 称信号 与 是正交的。,1.2 离散时间系统,基本概念LTI系统的描述全通系统和最小相位系统,一、基本概念,离散时间系统可以定义为将输入序列x(n)映 射成输出序列y(n)的唯一变换或运算，并用 表示，即一个离散时间系统，既可以是一个硬件装置，也可以是一个数学表达式。并用下图来表示其输入、输出关系。,1. 基本性质,离散系统的几个重要性质 线性性是指系统的运算或变换满足齐次性和叠加性。设 则系统的线性可表示为
12、式中，是任意常数。,1. 基本性质,移(时)不变性 同时具有线性和移不变性的离散时间系统称为 线性移（时）不变离散时间系统，简称LTI系统。因果性如果系统输出响应 的变化不会发生在输入变化之前，则此系统是因果的。,1. 基本性质,稳定性是指系统对有界输入产生有界输出。若 则对稳定系统有式中， 和 都是有限常量。这类稳定性通常称为有界输入有界输出( BIBO )稳定性。,1. 基本性质,可逆性如果系统对每一互不相同的输入激励，产生各 不相同的惟一的一个输出响应，则称此系统是可 逆的。或者说根据系统响应可以惟一地确定输入 激励。如果系统是可逆的，则可以构造一个逆系统与 之对应，两者串联的结果能恢复
13、出原输入激励， 如图所示，图中 表示 的逆系统。,二、线性时不变系统的描述,LTI系统的单位采样响应系统在零状态条件下，由单位采样信号作用系 统所产生的输出，即 任意信号 都可用单位取样序列的移位加权 和来表示，即用 作为LTI系统的输入激励，则有,1.LTI系统的单位采样描述,卷积和满足交换律,1.LTI系统的单位采样描述,卷积和满足结合律，即 在上式中，若记 ，这表示系统 级联后，总的单位抽样响应等于各级联子系统单 位抽样响应的卷积和，如图所示 。,1.LTI系统的单位采样描述,卷积和满足分配律，即 在上式中，若记 ，这表示系统 并联后，总的单位抽样响应等于各并联子系统单 位抽样响应之和，
14、如图所示 。,1.LTI系统的单位采样描述,LTI系统稳定性判据 一个LTI系统是稳定的充 分必要条件是 ，即 式中，S为有限值。 证明：充分性：设输入x(n)是有界的，且对所有n满足 ，则,1.LTI系统的单位采样描述,这表明，若系统的单位抽样响应绝对可和，则有 界输入一定对应有界的输出，系统是稳定的。 必要性：利用反证法。如果系统是稳定的，但是有 ，则系统对有界输入信号 对应的输出响应在 n=0 时的值 这与假设是矛盾的，因而若系统稳定，必须有,1.LTI系统的单位采样描述,LTI系统因果性判据 一个LTI系统是因果系统的充分必要条件是证明：由系统的样值响应式可得式中第2个等号右边的第一求
15、和项表示与x(n)将来 值有关的项，第二求和项表示与x(n)的当前输入 及以前输入有关的项。,1.LTI系统的单位采样描述,充分性：若h(n)=0, n0，则上式第一求和项恒 为零，系统的响应只和第二求和项有关，因而 系统是因果的。必要性：如果系统是因果的，则y(n)只与x(n)的 当前输入值及以前的输入值有关，与x(n)的将 来值无关，因而第一求和项必须等于零。要保 证这一点，只有当h(n)=0, n0条件成立。必要 性得证。,2.LTI系统的差分方程描述,LTI系统的差分方程式中 ， 是方程的系数。,3.LTI系统的系统函数描述,LTI系统的系统函数,通常称分子多项式的根(即 )为系统 的
16、零点，称分母多项式的根(即 ) 为系统的极点。,3.LTI系统的系统函数描述,LTI系统稳定性判据 LTI系统是稳定系统的充分必要条件是 的收敛域包含单位圆。 LTI系统因果性判据 LTI系统是因果系统的充分必要条件是 的收敛域为圆外区域，即,4.系统的频率特性,系统的频率特性系统的频率特性可以根据系统函数的零、极点 分布由几何方法直观地确定 。 在系统函数式中，令 ，则有,4.系统的频率特性,幅频响应：相频响应：式中， 表示求角度或相位。,三、线性相位系统与系统的群时延,1、非线性相位系统的概念LTI离散时间系统的频率响应可用幅频特性 和相频特性 表示为如果其中 是常数，则称该LTI离散时间
17、系统是线性相位 系统，否则称为非线性相位系统。,设系统输入信号的傅里叶变换为 ，则系统 响应的傅里叶变换 可表示为,线性相位,非线性相位,1、非线性相位系统的概念,非线性相位系统的实质，是输入信号的不同频 率成份通过系统后，具有不同的延时，这种现象常 称为信号的色散。 2、群时延的概念LTI离散时间系统的群时延定义为,群时延是频率的函数，反映了LTI离散时间系统相位 随频率的变化率 ！,2、群时延的概念,对于线性相位系统，群时延为可见，线性相位系统对不同频率的输入信号具有相 同的群时延，即系统响应的相位按频率线性变化。对于相频特性为 的非线性相位系统，群时延为,频率的函数,2、群时延的概念,四
18、、全通系统和最小相位系统,全通系统系统的幅频响应对所有频率都等于1或一个 常数的因果系统称为全通系统(all-pass system)。 即全通系统的零点分布 是极点分布的共轭反演， 如图所示。,1. 全通系统,一般而言，一个高阶的全通系统可表示为若 是一有理函数，而且是实系数的，则 其系统函数还可表示为,1. 全通系统,式中， 是 的特征多项式， 的全 部极点位于单位圆内，系统是稳定的。全通系统的一些特点： 全通系统通常是IIR系统； 全通系统的极点数和零点数相等； 极点和零点是以单位圆镜像对称的； 为保证系统稳定，所有极点都应在单位圆内，因此，所有零点都在单位圆外。,2.最小相位系统,最小
19、相位系统系统零极点都在单位圆内因果系统称为最小相 位系统(minimum-phase system)，记为 最小相位系统具有下列几个重要的性质 ： 性质1 在一组具有相同幅频响应的因果稳定系统 中，最小相位系统对于轴(即零相位)具有最小 的相位偏移。,2.最小相位系统,性质2 令h(n)为所有具有相同幅频响应的离散时 间系统的单位取样响应， 是其中的最小相 位系统的单位取样响应，并定义单位取样响应的 累积能量 则,2.最小相位系统,性质3 任一实系数因果稳定系统的H(z)都可表示 为一个最小相位系统和一个全通系统的级联。即性质4 最小相位系统的逆系统仍是最小相位系统。,1.3 确定性信号的相关
20、函数,相关函数的定义与性质 相关函数与线性卷积,1. 相关函数的定义与性质,能量信号的相关函数定义 信号 和 之间的互相关函数为式中，上标*表示对信号求共轭运算，参数m称 为时延，表示这一对信号间的时移，下标xy的顺 序表明 是参考信号。,1. 相关函数的定义与性质,如果 ，则上面定义的互相关函数变 成自相关函数 ，即自相关函数 反映了信号 和其自身作了 一段延迟之后的 的相似程度。即 等于信号 自身的能量。,1. 相关函数的定义与性质,功率和周期信号的相关函数 一对功率信号 和 ，其相关函数定义为同样，若信号 和 是两个周期为N的周期 信号，则它们的相关函数为,，,和 也是周期为N的周期序列
21、。,1. 相关函数的定义与性质,自相关函数有如下性质 性质1性质2 性质3 若 是能量信号，有 。,，,1. 相关函数的定义与性质,互相关函数有如下性质 性质1性质2 性质3 若 和 都是能量信号，有,，,2 相关函数与线性卷积,令 是 与 的线性卷积，且均为实 信号，即而 与 的互相关函数为比较上面两式，可得相关和卷积的时域关系为同理，对自相关函数，有,，,1.4 信号的傅里叶变换,连续时间信号的傅里叶变换 离散时间信号的傅里叶变换（DTFT） 连续时间信号的取样 离散傅里叶变换(DFT),一 连续时间信号的傅里叶变换,定义设 ，则 的傅里叶变换 ， 并且由下式定义 当 时，因为 不一定存在
22、， 可令使 ，则可由 的傅里叶变换来 定义 ，即,一 连续时间信号的傅里叶变换,此极限取二阶平均极限，即满足：引用上述定义后，傅里叶变换算子F，可以看 作是 映射的有界线性算子。F存在逆算子F-1，即对某个 ，存在， 由下式规定：,2.性质,性质 卷积定理若令 则 Parsval公式若令 则 特别,2.性质,函数的傅里叶变换虽然不是一个通常意义上的函数，而是一 个广义函数。但因为它满足 ，所 以一般指定 的傅里叶变换为由此，我们按傅里叶变换的求逆公式还有成立。,3.相关函数的傅里叶变换,相关函数令 ，则其自相关函数为：令 则有 因为 所以并有 成立。,4.周期信号的傅里叶变换,周期信号的傅里叶
23、变换令函数 满足 ( 为任意整数)。 它可展开为傅里叶级数，即：并且 为导出周期函数的傅里叶变换，可借助广义函数，即,4.周期信号的傅里叶变换,从而得到所以周期函数的富氏变换为频域的冲激串函数。 其冲激强度由其富氏级数系数 所决定。,二、 离散时间信号的傅里叶变换,现考虑序列 ， ，可定义其傅里叶 变换为其逆变换为因为 ，即是以为 周期的函数， 所以序列的傅里叶变换是将 映射为 的有界线性算子。,三 连续时间信号的采样,现考虑序列 为连续时间函数 通 过取样而获得(为简便计令取样周期 ) 。即令 为 的傅里叶变换。 为 的富里 叶变换，则据取样定理有成立。即时域的取样将导致频谱的周期延拓， 其
24、延拓周期为 。,四 离散傅里叶变换,离散傅里叶变换 设 是有限长时间序列，其离散傅里叶变换 (DFT)定义为其逆变换式为式中，,2.DFT与DTFT的关系,DFT与DTFT的关系 对长度为N的有限长序列 ，根据DTFT式有对比DFT式，可知即，N点序列的DFT值是其DTFT值在0，2区 间上的等间隔取样值。,FIR滤波器的实现结构,FIR滤波器的实现结构,FIR滤波器的实现结构,IIR滤波器的实现结构,IIR滤波器的实现结构,IIR滤波器的实现结构,IIR滤波器的实现结构,1.5 随机信号的功率谱,随机变量及其特征描述 随机信号及其特征描述 平稳随机信号通过线性系统谱因子分解 统计估计问题 功
25、率谱及其估计,一、随机变量及其特征描述,随机变量的概念：样本空间到一个数值集合的映射，即将随机事件样本空间中的每个单元事件映射为x的特定值。若某种试验A的随机结果用X表示，则称此X为一个随机变量，并设它的取值为x。例如，在一定时间内电话交换台收到的呼叫次数是一个随机变量。 随机变量的分布函数： 定义：FX(x) = P(X x) 性质： P(a X b) + P(X a) = P(X b),P(a X b) = P(X b) P(X a)， P(a X b) = FX(b) FX(a),1.离散随机变量的分布函数,设X的取值为：x1 ，x2，.， xi，.，xn，其取值的概率分别为 p1，p2
26、， ，pi，pn，则有P (X x1) = 0, P(X xn) = 1P(X xi) = P(X = x1) + P(X = x2) + + P(X = xi),2.连续随机变量的分布函数,当 x 连续时，由分布函数定义，有FX(x) = P(X x) 可知，FX(x)为一连续单调递增函数，表明X的取值概率沿 x 轴的累积分布情况。,图 连续随机变量的分布函数,3.随机变量的概率密度,连续随机变量的概率密度pX (x)1. pX (x)的定义：2. pX (x)的意义： pX (x)是FX (x)的导数，是FX (x)曲线的斜率 能够从pX (x)求出P(a X b)：3. pX (x)的性
27、质： pX(x) 0,3.随机变量的概率密度,离散随机变量的概率密度离散随机变量的分布函数可以写为：式中，pi 为 x = xi 的概率；u(x) 为 单位阶跃函数。将上式两端求导，得到其概率密度：性质： 当 x xi 时， pX(x) = 0， 当 x = xi 时， pX (x) = 1,数学期望定义：对于连续随机变量性质：,若X和Y互相独立，且E(X)和E(Y)存在，则,4.随机变量的数字特征,4.随机变量的数字特征,方差 定义：式中，对于离散随机变量，对于连续随机变量，性质： D( C ) = 0 D(X+C)=D(X)，D(CX)=C2D(X) D(X+Y)=D(X)+D(Y) D(
28、X1 + X2 + + Xn)=D(X1) + D(X2) + + D(Xn),4.随机变量的数字特征,矩定义：随机变量 X 的 k 阶矩为k 阶原点矩：a = 0 时的矩：k 阶中心矩： 时的矩：性质：一阶原点矩为数学期望：二阶中心矩为方差：,4.随机变量的数字特征,4. 3 阶原点矩又称为斜度（Skewness)。它描述随机变量 X分布的非对称特性。若随机信号具有对称概率密度函数，则其斜度为零，如：,斜度示范,三种分布的斜度,4.随机变量的数字特征,5. 4 阶原点矩,或,称为峰度( Kurtosis)，它描述随机变量X分布的尖瑞程度。,归零化峰度,归零化峰度定义为:,如何产生分布函数为F
29、x(x)的随机变量x(n)?,问题,二、随机信号及其特征描述,设 为一离散随机信号，对 的每一次实 现，记为 ， 代表时间，代表实现的序号，即样本数。则 的 均值、方差、均方等一、二阶数字特征为,随机信号及其数字特征,定义：样本空间到离散时间信号x(n)的一个集合的映射。是离散时间信号的一个集总。,1.随机信号及其数字特征,数学期望(统计平均值)随机序列的数学期望定义为 反映了随机过程各个时刻的数学期望随时间的变化情况； 本质上就是随机过程所有样本函数的统计平均函数； 它由随机过程的一维概率分布决定； 表征了随机序列的直流分量。,1.随机信号及其数字特征,均方值随机序列均方值定义为,1.随机信
30、号及其数字特征,方差,可以证明，上式也可以写成下式:,随机序列的方差定义为,1.随机信号及其数字特征,一般均方值和方差都是 n 的函数, 但对于平稳随机序列，它们与 n 无关，是常数。 方差反映了随机过程相对于均值的偏离程度。 方差由随机过程的一维概率分布决定； 方差表征了随机序列的交流平均功率。 均方值表征了随机序列的平均功率。 式 表明，如果随机变量Xn代表电压或电流，则有平均功率 = 交流功率 + 直流功率,图 均值相同方差不同的高斯分布,自相关函数自协方差函数,1.随机信号及其数字特征,图 自相关函数和自协方差函数曲线图,随机序列自相关函数、协方差函数的重要性质可以用图所示曲线来表征。
31、,对两个随机信号 、 ，还可定义互相关函 数和互协方差函数如下： 互相关函数 互协方差函数,1.随机信号及其数字特征,如果对所有 ，有 则称信号 是不相关的随机信号。 如果对所有 ，有 则称信号 和 是不相关的。如果对所有 ，有 则称信号 和 是相互正交的。,1.随机信号及其数字特征,独立、相关、正交与相关系数,X与Y统计独立当且仅当X与Y不相关。 独立一定不相关，反之不然；对于正态随机变量独立与不相关等价。 当且仅当X与Y正交。,2.平稳随机信号,平稳随机信号定义 若 的概率函数满足则称 是N阶平稳的。如果在上式中 ， 则称 是严平稳（strict-sense stationary）， 或狭
32、义平稳的随机信号。,2.平稳随机信号,宽平稳（wide-sense stationary，WWS）信号， 又称广义平稳信号。是指满足下述三个条件的随 机信号：狭义平稳随机信号的所有数字特征显然都与 时刻n无关。但其定义无 法在实际中加以应用， 因此，研究和应用最多的还是宽平稳信号。,2.平稳随机信号,由宽平稳信号的定义，我们还可得到两个宽平稳随机信号 和 的互相关函数及互协方差可分别表示为,3.平稳随机信号的相关函数,平稳随机信号的相关函数的性质 性质1 性质2 及 性质3性质4,4.平稳随机过程的自相关矩阵,自相关矩阵的基本性质,4.平稳随机过程的自相关矩阵,性质1 平稳离散时间随机过程的相
33、关矩阵是Hermite矩阵，即有,对于实随机过程，自相关矩阵是对称矩阵，即,性质2 平稳离散时间随机过程的相关矩阵是Toeplitz矩阵,性质3平稳离散时间随机过程的相关矩阵R是非负定的，且几乎总是正定的。,证明：设,为任意非零向量，由于二次型,故相关矩阵R,总是非负定的。当且仅当观测向量的,每个随机变量间存在线性关系时，等式成立，这种情况仅出现在随机过程 是由 个纯复正弦信号之和组成。,4.平稳随机过程的自相关矩阵,性质4 将观测向量,元素倒排，定义向量,这里，下标B表示对向量,内各分量做反序排列。,4.平稳随机过程的自相关矩阵,性质5 平稳离散时间随机过程的自相关矩阵,从,维扩,展为,维，
34、有如下递推关系,或等价地,其中,5.平稳随机信号的功率谱,平稳随机信号的功率谱 对相关函数作z变换，有令 ，得到 自功率谱（密度）： 互功率谱（密度）：,4.平稳随机信号的功率谱,对功率谱，有如下性质： 性质1 是的实函数；性质2 对所有的都是非负的；性质3 若 是实信号，则 是关于的偶函数；性质4,5.平稳随机信号的各态遍历性,平稳随机信号的各态遍历性 对平稳随机信号 ，如果它的所有样本函数 在某一固定时刻的一阶和二阶统计特性和单一样 本函数在长时间内的统计特性相同，则称 为 各态遍历信号。对各态遍历信号来说，用一阶和二阶的集平均 等于相应的时间平均，即,5.平稳随机信号的各态遍历性,式中，
35、 是 的一个单一样本函数。,5.平稳随机信号的各态遍历性,对于各态遍历的平稳随机信号，其功率谱也可 定义为式中， 是 的单一样本函数 在时的DTFT。,6.随机信号的采样定理,对于平稳随机信号，如果其功率谱严格限制在某一有限频带内，该随机信号称为带限随机信号。如果平稳随机信号 X(t) 的功率谱 Pxx() 满足下式：则称 X(t)为低通性带限随机信号，式中c 表示功率谱的最高截止频率 设以采样间隔 T 对平稳随机信号 X(t) 进行采样，采样后随机序列为X(n)，只要采样频率 fs 满足：,或者,6.随机信号的采样定理,则有以下采样插值公式:,可以证明，在均方意义上，X(t) 等于 ， 即,
36、7.典型的随机序列,1.正态（高斯）随机序列正态随机序列 Xn 的 任意 N 维联合概率密度函数为,式中,正态随机序列,上面公式表明，正态（高斯）随机序列仅决定于其均值矢量 M 以及方差阵varX。具有指数型自相关函数的平稳高斯过程称为高斯马尔可夫过程。这种信号的自相关函数和谱密度函数为高斯马尔可夫也是一种常见的随机信号，适合于大多数物理过程，具有较好的精确性，数学描述简单。因为当m时，自相关函数趋近于0，所以均值为0，过程的自相关函数特性完全描述了过程的特性。,7.典型的随机序列,2. 白噪声序列如果随机序列x(n)，其随机变量是两两不相关的， 即,式中,则称该序列为白噪声序列；如果白噪声序
37、列是平稳的， 则,cov(xn, xm)=2mn,白噪声序列,式中，2是常数。设均值 ，其功率谱Pxx(ej)=2，在整个频带上功率谱是一个常数。如果白噪声序列服从正态分布，序列中随机变量的两两不相关性就是相互独立性，称为正态白噪声序列。显然，白噪声是随机性最强的随机序列，实际中不存在，是一种理想白噪声，一般只要信号的带宽大于系统的带宽，且在系统的带宽中信号的频谱基本恒定，便可以把信号看作白噪声。注意：正态和白色是两种不同的概念，前者是指信号取值的规律服从正态分布，后者指信号不同时刻取值的关联性。,7.典型的随机序列,3. 谐波过程 谐波过程用下式描述：,(1),式中，Ai和i(i=1, 2,
38、 3, , N) 是常数，i (i=1, 2, 3, , N)是服从均匀分布的独立随机变量，其概率密度为,也可以将(1)式写成下式:,式中,谐波过程,可以证明，这种谐波信号模型是平稳的，设N=1，计算它的统计平均值和自相关函数：,谐波过程,上式中第一项积分为0，因此,由于谐波过程的统计平均值与时间 n 无关, 自相关函数仅与时间差 m 有关, 谐波过程是平稳的。 当 N 大于 1 时，也有同样的结论，可以证明：,7.典型的随机序列,4. 循环平稳随机序列许多人工和天然信号是一类特殊的非平稳随机序列，其相关函数虽然是时变的，但却随时间的变化呈现周期性变化，称为循环平稳（Cyclostationa
39、rity）随机序列。定义：对于随机序列Xn，若存在一个常数 T，使得成立，则称随机序列Xn为循环平稳随机序列。,一个循环平稳的离散时间随机过程 ，,其均值为零，,自相关函数可以表示为,由于,是关于,以,为周期的周期函数，可以,将其展开成离散傅里叶级数形式,其中，,为离散傅里叶级数的系数，它可以表示为,三、平稳随机信号通过线性系统,设LTI系统的单位抽样响应为 ，该系统的 输入信号 是平稳、遍历的随机过程 （输 入随机过程）的一个取样序列，系统产生的输出 响应 也是一个离散的随机信号，把它视为另 一随机过程 （输出随机过程）的一个取样序 列。因此，输出和输入之间显然满足下式， 即,1.系统响应均
40、值、自相关函数平稳性分析,1).均值设所研究的线性系统是稳定非时变的，其单位脉冲响应为 h(n)，输入是平稳随机序列 x(n)，输出为因为输入是平稳随机序列，Ex(n-k)=mx，故这样，mx与时间无关，my也与时间无关。,(1.64),先假定输出是非平稳的，那么，输出的自相关函数为,因为x(n)是平稳的，因此,所以,2).自相关函数,对于上式, 令l=r-k, 得到,式中,v(l)通常称为h(n)的自相关函数，也可以将v(l)写成卷积形式：,v(l)=h*(l) h(-l)=h*(-l) h(l),上式表示v(l)是h*(l)与h(-l)离散卷积或者是h*(-l)和h(l)的离散卷积。这样线
41、性系统输出的自相关函数等于输入自相关函数与线性系统单位脉冲响应的自相关函数的卷积。,2.系统的输入、输出互相关函数,线性非时变系统输入与输出之间互相关函数为因此，输入、输出之间的互相关函数等于系统的单位脉冲响应与输入自相关函数的卷积。一般称式为输入、输出互相关定理。,3.输出响应的功率谱密度函数,为讨论方便起见，现假定x(n)是实信号，这样，y(n)也是实的。x(n)和y(n)之间的关系主要有：,如下四个关系成立：,由此可以看出：随机信号通过线性系统，使用的是输入、输出的自相关函数、自功率谱、互相关函数和互功率谱。,解：,例,所以：,由差分方程，有,:方差为1的白噪声序列，即,：也是平稳信号，
42、已知,求：,系统辨识问题,例,解：由,有,又,最小相位,最大相位,用“谱分解”法求,4.相关卷积定理,将前面推导出相关函数式重写如下：,该公式用语言叙述如下：x(n)与h(n)卷积的自相关函数等于x(n)的自相关函数和h(n)的自相关函数的卷积。或者简单地说, 卷积的相关等于相关的卷积。用一般公式表示如下：,如果,那么,ref(m)=rac(m) * rbd(m),假设系统的输入、输出和单位脉冲响应分别用x(n)、y(n)和h(n)表示，试求输入、输出互相关函数和输入自相关函数之间的关系。 解 按照相关卷积定理，得到,x(n)=x(n)*(n) y(n)=x(n)*h(n) rxy(m)=rx
43、x(m)*rh(m),式中,例,将该式带入上式， 得到,rxy(m)=rxx(m) * h(m),这就是已经推导出的输入、输出互相关卷积定理。对于实、平稳随机信号相关函数的性质(1)，得到输出、输入互相关函数和输入自相关函数之间的关系：,ryx(m)=rxy(-m)=rxx(-m)*h(-m)=rxx(m)*h(-m) Pyx(z)=Pxx(z)H(z-1),按照图推导两个系统的输出互相关函数与输入互相关函数之间的关系。,解,y1(n)=x1(n)*h1(n) y2(n)=x2(n)*h2(n),按照相关卷积定理，有,例,按照图还有下面关系式，作为练习，请自己证明。,(1),(2),四、统计估
44、计问题,目标：,用随机信号的一次样本实现的有限长数据估计,其统计特征量（均值，方差，相关，谱等）,四、统计估计问题,根据观测数据 来定量推断某 个量 的过程就称为统计估计问题。设随机信号 的某个数字特征量的真值为 估计值为 ，显然， 是 的函数，且是随机变 量，即为了衡量 对 的近似程度，我们可以引入下 列指标：,f可为线性函数，亦可为其它函数,四、统计估计问题,定义1.5.1 为估计的偏差。若 ，则称 是 的无偏估计；若 ，则称 是 的渐近无偏估计。 定义1.5.2 为估计的方差。它反映了 的各次估计相对于估计均值的偏离 程度。,四、统计估计问题,定义1.5.3 为估计的均方误差。若 ，则称
45、 是 的一致估计；若 ，则称 是 的渐近一致估计。,随机信号均值，方差，相关的估值,设 x(n) 为各态遍历的平稳随机信号,均值：,xN(n)，n=0,1,2,N-1 为N点观测值,方差：,自相关：,估计方法1：,长 2N+1,m: -(N-1)(N-1); 以m=0呈偶对称,估计偏差：,故为渐近无偏估计,有偏估计,例：,令,则,三角窗函数,对x(n)截断：x(n)d(n) (矩形数据窗：0 N-1）,对r(m)截断：r(m)w(m) (三角延迟窗：-N+1 N-1）,w(m)正好是的d(n)自相关,m,估计的方差：,估计质量与 N（矩形数据窗）和 m（三角延迟窗）有关,估计方法2：,可证：,均值：,方差：,但当 ImI 大时，方差性能不如方法1。,为 的无偏一致估计,即：,相关的快速算法（FFT）,小结：,相关函数的估值实际上是一种平均过程，参加平均的数据越多（N大，m小），估值越可靠。 N有限，大滞后量 m 是产生相关函数估值误差的主要原因，也是造成功率谱估计误差的原因。,又根据功率谱的定义，功率谱计算需要无穷多测量数据，实际上只能进行谱估计；经典谱估计是建立在傅立叶变换基础上的功率谱计算方法,确定性信号一般为能量有限信号，其傅立叶变换即为信号的频谱（频域特征）；而随机信号一般为能量无限信号，其傅立叶变换不存在；但一般为功率信号，故其频域特征只能用功率谱来表示。,
