1、语音识别与声纹识别,重庆第二师范学院数学与信息工程系,Contents,5 语音数据挖掘,4 语音合成,3 声纹识别,2 语音识别,1 语音信号处理基础,1 语音信号处理基础,内容提示,1.1 语音信号的产生 1.2 语音信号的感知（了解） 1.3 语音信号的线性产生模型 1.4 语音信号的非线性产生模型（了解）,语音 信号 处理 基础,1 语音信号处理基础,语音信号的基本概念,语音：人们讲话时发出的话语叫语音。是一种人们进行信息交流的声音，是组成语言的声音/带有语言信息的声音。,语音(Speech)=声音(Acoustic)+语言(Language)语音是由一连串的音素组成语言的声音。,对语
2、音的研究,对语音的研究包括两个方面1) 语音中各个音的排列由一些规则所控制，对这些规则及其含义的研究称为语言学(linguistics)。语言学是语音信号处理的基础。例如：可以利用句法和语义信息减少语音识别中搜索匹配范围，提高正确识别率。 2) 语音中各个音的物理特性和分类的研究称为语音学(phonetics)。它考虑的是语音产生、语音感知等过程，以及各个音的特征和分类。,1 语音信号处理基础,对语音的研究,语音学基本内容包括： 发音语音学 确定发音机理 声学语音学 信号分析理论解释语音现象 听觉语音学 认识感知的过程 语音学和语音信号处理联系更加紧密。如：运用现代信号处理技术建立发音的数学模
3、型，确定发音方法；用声学和非平稳信号分析理论来解释各种语音现象；语音信息的存储形式等。,1 语音信号处理基础,1.1 语音信号的产生,1 语音信号处理基础,人类的说话过程分五个阶段,想说,说出,传送,接收,理解,语音交流是通过联结说话人和听话人的一连串心理、生理和物理的转换过程实现的。,大脑中枢,发音器官,空气,听觉器官,大脑中枢,1.1 语音信号的产生,1 语音信号处理基础,语音的发音器官,肺和气管：能量源 咽喉：震动源，包括声带和声门 声道：谐振腔，声门到嘴唇的呼吸通道，包括咽腔、口腔、鼻腔等 其他发音器官：包括唇、齿、舌、面颊等，使谐振腔改变形状,与箫、唢呐比较,1.1 语音信号的产生,
4、1 语音信号处理基础,肺和气管,肺是胸腔内的一团有弹性的海绵状物质，它可以储存空气。通过正常的呼吸系统空气可以进入肺部，说话时腹肌收缩使横膈膜向上，挤出肺部的空气，形成气流。由肺部呼出的气流是语音产生的原动力。气管将肺部呼出的气流送到咽喉，它是肺部气流的通道。气管的上端是喉部。,1.1 语音信号的产生,1 语音信号处理基础,喉位于气管的上端，实际上是气管末端一圈软骨构成的一个框架：前方稍高处的软骨称为甲状软骨，前后方环成一圈的称为喉部环形软骨，喉中两片肌肉称为声带，声带之间的空隙为声门。当声带张开时，声门打开，空气可自由呼出，正常呼吸就处于这种情况；当声带闭合，声门关闭。,声门和声带,1.1
5、语音信号的产生,当说话时，声带在软骨的作用下相互靠近但不完全闭合，声门变成一条窄缝。当气流通过气管经过咽喉时，收紧的声带由于气流的冲击而产生振动，不断地张开和闭合，使声门向上送出一连串喷流。,声带靠拢,Tp,基音周期,声带的开启和闭合称为振动。这一振动过程周而复始，形成了一串周期性脉冲气流送入声道。这个过程发出的音称为浊音。如汉语发音的a、i、u和o等。,1 语音信号处理基础,1.1 语音信号的产生,1 语音信号处理基础,F0 =1/Tp，基音频率，由声带的质量来决定。F0的大小决定了声音的高低，称为音高。男性的F0大致分布在：60-200Hz女性和儿童的F0大致分布在：200-450Hz,基
6、音频率（Fundamental Frequency） F0,声带的一个重要参数：,1.1 语音信号的产生,1 语音信号处理基础,声道,人在说话时，空气由肺部压入，由嘴唇呼出，声门由此开启和闭合，构成声带振动，然后通过声道（喉腔、咽腔和口腔）响应（引起共振特性）变成语音，气流从喉向上经过口腔或鼻腔后从嘴或鼻孔向外辐射，期间的传输通道称为声道。气流流过声道时犹如通过了一个具有某种谐振特性的腔体，放大某些频率，在频谱上形成相应位置的峰起，称为共振峰。,讲话时，由于舌和唇的连续运动，使声道形状改变，随即改变谐振频率，使得发不同的音。声道的不同的形状，对应不同的谐振频率。,声带振动频率,输出气流的频率,
7、声道的谐振特性,1.1 语音信号的产生,1 语音信号处理基础,鼻端,嘴唇,谐振频率的计算,谐振频率发生在：Fn= （声道的横截面是均匀的，发元音e时，声道近似是均匀的。）,L=17cm，声道的长度 n=1,2,3 称为第一共振峰F1=500Hz 、第二共振峰F2=1500Hz 、第三共振峰F3=2500Hz ， c=340m/s 声速,2n-1,4L,c,n表示谐振频率的序号,1.1 语音信号的产生,1 语音信号处理基础,一种声道形状对应一套共振峰 不同人的声道大小不同，共振峰不同 同一人，发不同音，共振峰也不同 声道的作用相当于一个滤波器，它放大（或增强）某些频率而衰减其他频率分量,前三个共
8、振峰的大致范围（Hz）,1.1 语音信号的产生,1 语音信号处理基础,鼻腔的作用,在软腭的帮助下，可使空气经过鼻腔排除人体外，由此产生的语音称为鼻音。如n、ng为鼻音韵母，m、n、l为鼻音声母。鼻腔是一个谐振腔，由于形状固定，故其共振峰频率是确定的。,口腔和鼻腔,口腔的作用,使空气经过口腔排除人体外，由此产生的语音称为口音。口腔的形状不固定，故其共振峰频率也是不确定的。,1.1 语音信号的产生,1 语音信号处理基础,等效为激励源声道喇叭口,激励源：声带 声带振动频率基频(基音频率) 清音 声带不振动 浊音 声带振动 声道：可变谐振腔 不同形状、不同声音 共振(谐振)频率,1.1 语音信号的产生
9、,1 语音信号处理基础,发音的分类,浊音（voiced sounds）：声道打开，声带在先打开后关闭，气流经过使声带要发生张驰振动，变为准周期振动气流。浊音的激励源被等效为准周期的脉冲信号。清音（unvoiced sounds）：声带不振动，而在在声道某处保持收缩，气流在声道里收缩后高速通过产生湍流，再经过主声道（咽、口腔）的调整最终形成清音。清音的激励源被等效为一种白噪声信号。爆破音（plosive sounds）：声道关闭之后产生压缩空气然后突然打开声道所发出的声音。,1.1 语音信号的产生,1 语音信号处理基础,1.1 语音信号的产生,1 语音信号处理基础,语音是发声器官发出的一种声波，
10、具有一定的音色、音调和音强和音长。音色: 又称为音质，是一种声音区别于另一种声音的基本特性。与声带的振动频率、发音器官的送气方式和声道的形状、尺寸密切相关。音调：声音的高低，取决于声波的频率。音强：声音的强弱，它由声波的振动幅度所决定音长：声音的长短，取决于发音持续时间的长短，,语音的基本声学特性,1.1 语音信号的产生,1 语音信号处理基础,语音信号的时域和频域表示,语音信号的时域波形,结论1：时间的连续函数、频率幅度随时间变化是随机的,结论2：短时间内近似认为不变,结论3：元音是准周期函数(基频),结论4：清音为随机起伏,1.1 语音信号的产生,1 语音信号处理基础,语音信号的频域波形,F
11、1=500Hz，F2=1000Hz，F3=1500Hz,Tp=250Hz,1.1 语音信号的产生,1 语音信号处理基础,基音周期,1.1 语音信号的产生,1 语音信号处理基础,语音信号的语谱图,女声：“他去无锡市，我去黑龙江”的语谱图,1）语谱图：表示语音信号随时间而变化的频谱特性，在每个时刻用其附近的短时段语音信号分析得到的一种频谱。 2）语谱图的纵轴对应于频率，横轴对应于时间，图像的灰度对应于信号的能量。 3）声道的谐振频率表示为黑带，浊音部分则以出现条纹图形为特征，这是因为此时的时域波形具有周期性，而在清音的时间间隔内比较致密 4）“声纹”用于说话人识别,1.1 语音信号的产生,1 语音
12、信号处理基础,load mtlb specgram(mtlb,512,Fs,kaiser(500,5),475) title(Spectrogram),1.1 语音信号的产生,1 语音信号处理基础,load specgram.mat wavplay(a,Fs) specgram(a,512,Fs,kaiser(500,5),475),1.1 语音信号的产生,1 语音信号处理基础,汉语中语音的分类,音素：是发音的最小单位，分为元音和辅音。元音是构成音节的主干，从长度和能量来看，在音节中占主要位置；辅音只是出现在音节的前端或后端或前后两端，它们的时长和能量较小。 音节：发音时，被明显感觉到的语音片
13、段为音节。一个音节由一个音素或几个音素构成。 单词的最小单位为音节，句子的最小单位为单词。,1）音素与音节,1.1 语音信号的产生,1 语音信号处理基础,音系简单，在汉语中一个字就是一个音节，由一般为23个音素组成，而且具有音素少、音节少。英语中一个单词由若干个音节组成，一般为23个，一个音节由若干个音素组成，一般为14个。 清辅音多，在听感上有清亮、高扬和舒服、柔和的感觉。 有鲜明的轻重音和儿化韵，所以字词分隔清楚，语言表达准确而丰富。,2）汉语语音的特点,1.1 语音信号的产生,1 语音信号处理基础,在汉语中，由音素构成声母和韵母。,声母：一个音节开始的辅音，声母完全由辅音充当，但辅音不等
14、于声母，因为辅音还可以作为韵尾放在音节的末尾。(21个)b、p、m、f、d、t、n、l、g、k、h、j、q、x、zh、ch、sh、z、c、s、r,3）语音的拼音方法,1.1 语音信号的产生,1 语音信号处理基础,韵母：在音节中占主要部分，音节中除了头上的声母以外的部分，由单、双元音、元音带上辅音等几种不同的形式组成。所有元音都是浊音。 a、o、e、i、u、 单韵母（元音） ai、ei、ao、ou、ia、ie、iao、iou、ua、uo、uai、uei 、e 复韵母 an、en、ang、eng、ong、ian、in、iang、ing、iong、uan、uen、uang、ueng、 an、n 鼻韵
15、母,1.1 语音信号的产生,1 语音信号处理基础,韵母是由单、双元音、元音带上辅音等几种不同的形式组成。不同的元音有不同的基音频率和共振峰模式，它们是区别不同韵母的重要参数。,区别不同韵母的重要参数,1.1 语音信号的产生,1 语音信号处理基础,注意区别下述不同的概念,浊音和清音：按声带振动的方式来划分。 元音和辅音：按音素的发音特征来划分，与声道中活动部分和固定部分的接触点的位置密切相关。 声母和韵母：按音节的结构进行划分。,(元音一定是浊音。辅音包括浊音和清音。 英语中：由元音和辅音（这些都是音素）构成音节，由几个音节构成一个词。 汉语中：汉语中由元音和辅音构成声母和韵母，结合声调构成一个
16、音节，一个音节就是一个字。,1.1 语音信号的产生,1 语音信号处理基础,声母、韵母和声调是汉语语音的三要素。汉语语音的1个不同于其他语言的是它具有声调（音调）。声调是1个音节在念法上的高低升降的变化，汉语中有4个声调，即阴平（）、阳平（ ）、上声（ ）、和去声（）。,4）汉语音节的一般结构,1.1 语音信号的产生,1 语音信号处理基础,声调的变化就是浊音基音周期的变化，为了将调值描写地具体一些，一般采用“五度标记法”，用一条竖线表示声音的高低，从下而上用1、2、3、4、5依次表示低、半低、中、半高、高。,5 高,4 半高,3 中,2 半低,1 低,阴平,阳平,上声,去声,1.1 语音信号的产
17、生,1 语音信号处理基础,单独发声的一个音节或是语音流中的任何一个音节都可能由7部分组成。,无声段,1.2 语音信号的感知（自学）,1 语音信号处理基础,研究人对声音的感知，对语音编码识别很重要，如MP3。,听觉系统 耳的结构 听觉的形成 耳蜗的作用 听觉特性 人耳的听阈及响度 音调俺蔽效应 同时掩蔽和异时掩蔽 各种不同的掩蔽效果,1.3 语音信号的线性产生模型,1 语音信号处理基础,激励模型（肺部，气管，声带）声道模型（咽腔，口腔，喉腔，鼻腔）辐射模型（口唇，鼻孔）完整的语音信号的数学模型,1.3 语音信号的线性产生模型,1 语音信号处理基础,传输函数,数学模型的特点：是一个终端模拟的近似模
18、型，其内部结构与语音产生的物理过程并不一致，只是在输出端等效。,激励模型,1.3 语音信号的线性产生模型,1 语音信号处理基础,激励模型,用数学方法描述肺部的气流与声带共同作用产生的激励。,1.3 语音信号的线性产生模型,1 语音信号处理基础,发浊音时，声激励是一个准周期的单位脉冲串，Av为增益参数；为了使浊音的激励信号逼近声门振动气流的实际波形，需将冲激序列通过一个声门脉冲模型滤波器（实际上是一个斜三角波形）G(z)。 最后形成一个以基音周期为周期的斜三角型脉冲波。,1）浊音激励,Tp为冲激脉冲的周期，声门波模型产生单个声门脉冲,1.3 语音信号的线性产生模型,1 语音信号处理基础,单位脉冲
19、串,单位脉冲串及幅值的Z变换形式,将其表示为Z变换，有：冲激序列：E(z) 浊音激励模型： U(z) = AVG(z)E(z),斜三角型脉冲波,N1为斜三角波上升部分的时间，N2为其下降部分的时间,1.3 语音信号的线性产生模型,1 语音信号处理基础,2）清音激励,清音激励模拟为随机噪声，实际中一般使用均值为0、方差为1的白噪声。,1.3 语音信号的线性产生模型,1 语音信号处理基础,将声激励分为两种情况，与实际不完全相符。例如爆破音是气流在声门完全闭合处的下方建立起压力，然后除去这种障碍，使压力迅速释放，产生一种瞬时的激励。在上面的声学模型中未考虑。应将两种激励按一定比例进行叠加，更符合实际
20、情况。,1.3 语音信号的线性产生模型,1 语音信号处理基础,声道模型(共振峰模型),线性系统 声道V(z),uG(n),ul(n),1)声音在声道的传播涉及到许多物理定律(能量守恒、流体力学)，需简化。有不同的模型。2)语音信号是一个非平稳信号，激励和声道的谐振特性随时间变化。但在2030ms内语音信号是平稳的，即激励和声道的特性几乎不变，因此认为在此时间段内系统是线性的。,用数学方法描述声道的调音特性。包括声管模型和共振峰模型,1.3 语音信号的线性产生模型,1 语音信号处理基础,1）声管模型 “短时”间声道是一个形状稳定的级联管道，声音在不同截面积间传输会有反射。反射系数： km(Am+
21、1 - Am)/(Am+1 + Am) Am,Am+1是第m、m+1段的截面积 Km是声道的特性，确定Km，就确定了声道！,A1 A2 A3 .,(a)立体图 (b)断面图,1.3 语音信号的线性产生模型,1 语音信号处理基础,2）共振峰模型,声道近似为谐振腔，共振峰就是这个腔体的谐振频率，从共振峰的角度出发描述声道的模型称为共振峰模型。一般共振峰的个数为3-5个。,p、ak 决定了声道地特性(人的特征)，p越大越吻合。一般p=812,(1)级（串）联型(元音)：声道是一组串连的二阶谐振器（一个谐振腔对应1个共振峰频率）。,传输函数,p为极点个数，G是增益参数，ak为模型系数。,1.3 语音信
22、号的线性产生模型,1 语音信号处理基础,传输函数是一个全极点的IIR滤波器，这些极点确定了声管的共振峰。若N取偶数，V(z)一般有N/2对共轭极点，rkexp(j2FkT)，k=1N/2。 各个wk值分别与语音的共振峰相互对应。 N的取值一般为812。,利用Z变换的知识，把V(z)分解为多个二阶极点网络的级联：,二阶谐振器的幅频特性,1.3 语音信号的线性产生模型,1 语音信号处理基础,（2)并联型(大部分辅音),传输函数，零极点IIR滤波器,用并联网络模拟声道。对于非一般的元音和大部分辅音，必须采用零极点模型,级联简单，可用于一般元音，一般35级 并联复杂，可用于许多音，但ai难以求解,1.
23、3 语音信号的线性产生模型,1 语音信号处理基础,（3）混合型（根据需要进行模型的切换）,将级联型和并联型结合起来的混合型也是比较完备的一种共振峰模型，该模型能够根据不同性质的语音进行切换。,1.3 语音信号的线性产生模型,1 语音信号处理基础,辐射模型,声道的终端为口和唇。从声道输出的是速度波UL(n)，而语音信号是声压波，二者之倒比称为辐射阻抗ZL。它表征口和唇的辐射效应。,研究表明，口唇端辐射在高频端较为显著，在低频端时影响较小，所以辐射模型R(z)主要与嘴型有关，应是一阶类高通滤波器的形式。,用数学方法描述口唇和鼻孔的辐射特性。,1.3 语音信号的线性产生模型,1 语音信号处理基础,完
24、整的语音信号的数学模型,Av,冲激序列 发生器,声门脉冲 模型G(z),随机噪声 发生器,基音周期TP,AN,线性系统 声道V(z),辐射模型 R(z),清/浊音开关,传输函数,1.3 语音信号的线性产生模型,1 语音信号处理基础,在语音信号模型中，如果不考虑冲激脉冲串模型E(z)，则斜三角波模型是二阶低通，而辐射模型是一阶高通，所以实际信号分析中常采用“预加重技术”。即在对信号取样之后,插入一个一阶的高通滤波器，这样，只剩下声道部分，就便于对声道参数进行分析了。在语音合成时再进行“去加重”处理，就可以恢复原来的语音。,R(z)=(1-rz-1),1.3 语音信号的线性产生模型,1 语音信号处
25、理基础,数学模型的特点,在这个模型中，TP、 Av、AN、清/浊音开关的位置以及声道滤波器的参数都是随时间而变化，在10-30ms的时间间隔内是保持不变的。这种特性称为短时性。对于激励信号而言，大部分情况下，这一结论也是正确的，但有些音变化速度特别快，爆破音，取5ms比较更为恰当。,1.3 语音信号的线性产生模型,1 语音信号处理基础,语音特性分析实例,声门脉冲序列,声道对声门脉冲相应的输出,输出语音频谱,虚线称为谱包络，其形状是由H(f)和G(f)的包络乘积得到的。恢复这个谱包络是许多语音处理应用中的主要问题，因为正是谱包络携带了主要的发音信息。线性预测技术之所以非常重要，正是由于它所提供的
26、谱包络分析方法是快速、准确，并且在理论上完全得到证明的方法。,声道频率响应，最大值与共振峰相对应,1.3 语音信号的线性产生模型,1 语音信号处理基础,理想的声门脉冲序列频谱,1.4 语音信号的非线性产生模型（了解）,1 语音信号处理基础,调频-调幅模型的基本原理 Teager能量算子能量分离法 调频-调幅模型的应用,声音处理, 声音的三要素, 音质,声音的三要素是音调、音色和音强,音调代表声音的高低，与频率有关。频率越高，音调越高，反之亦然。,音色是声音的特色。影响声音特色的主要因素是复音，即具有不同频率和不同振幅的混合声音。,音强是声音的强度，也被称为声音的强度。音强与声波的振幅成正比，振
27、幅越大，强度越大。,对于数字音频信号，音质的好坏与数据采样频率和数据位数有关。,音质与声音还原设备有关。,音质与信号噪声比(SNR)有关。, 文件,数字化的音频文件主要分为4类：,波形音频文件。一种最直接的表达声波的数字形式，文件扩展名是“.wav”。,MIDI音频文件。一种计算机数字音乐接口生成的数字描述音频文件，扩展名是“.mid”。,声音处理,CD-DA音频文件。标准激光盘文件，扩展名是“.cda”。,压缩音频文件。在数字音频领域，一种MP3格式的压缩音频文件很流行，该格式的文件简称MP3文件。,声音处理,获取声音, 获得CD中的声音, 录音, 声音转换,如果希望把音乐CD中的歌曲或乐曲
28、作为素材，需要把这些歌曲或乐曲转换成计算机能够处理的数字化声音，这就是“采样”。可以使用Easy CD-DA Extractor、CoolEdit等音频处理软件对音频进行编辑和处理。,要录制音质好的声音，有两个途径：使用性能优良的录音设备；采用较高的采样频率。可以使用Windows系统自带的“录音机”进行录音。,声音的转换只能从高质量向低质量进行，声音的转换不需要专门的软件，使用Windows的“录音机”转换即可，并且转换功能很强。如果要进一步处理，可采用CoolEdit(Adobe Audition）工具软件。,短时能量和过零率,语音分帧 每帧10-30ms, 帧间隔10ms 短时能量 对数
29、 平方和 绝对值 过零率(ZCR),60,参数提取的预处理,预加重：减少尖锐噪声影响，提升高频部分加窗：Hamming 减少Gibbs效应,61,各种参数的比较,Linear Prediction Cepstrum Coefficients (LPCC) 假定所处理信号为自回归信号（不适用辅音）； 计算简单，但抗噪性差。 Mel-Frequency Cepstrum Coefficients (MFCC) 模拟人的听觉模型； 强调低频部分，屏蔽噪声影响； 识别率高，但计算量大。 能量 辅助作用，需归一化。 音调 对算法要求高，适于二次判别。,62,Mel-频率,目的：模拟人耳对不同频率语音的感
30、知人类对不同频率语音有不同的感知能力 1kHz以下，与频率成线性关系 1kHz以上，与频率成对数关系Mel频率定义 1Mel1kHz音调感知程度的1/1000,63,Mel-频率,公式：频率Mel-频率：,- 频率,- Mel-频率,Mel-频率,频率(Hz),64,MFCC,计算流程：,65,DFT,时域信号,线性谱域,Mel 滤波器组,Log,DCT,Mel谱域,对数谱域,MFCC,2 语音识别,2 语音识别,（1）语言是人类特有的功能，声音是人类常用的工具，是相互传递信息的最主要的手段。,（2）语音和语言与人的智力活动密切相关，是人们构成思想疏通和感情交流的最主要的途径。,通过语音传递信
31、息是人类最重要、最有效、最常用和最方便的交换信息形式。,参考资料,2 语音识别,1、赵力.语音信号处理.机械工业出版社，2003.（教材） 2、韩纪庆、张磊、郑铁然. 语音信号处理.清华大学出版社,2004. 3、杨行峻、迟惠生.语音信号数字处理.电子工业出版社，2004. 4、易克初、田斌.语音信号处理.国防工业出版社,2000. 5、Huang X D, Acero A, Hon H, etal. Spoken Language Processing: A Guide to Theory, Algorithm and System Development. New Jersey: Pren
32、tice Hall PTR, 2001,内容提示,2 语音识别,2.1 语音识别的重要性 2.2 语音识别的定义、原理和分类 2.3 语音识别的历史回顾 2.4 语音信号处理简介 2.5 语音技术概述,特定人和非特定人（话者相关或话者无关） 词汇量（大，小） 孤立词，连接词，关键词和连续语音 自然发音和朗读发音 口音（方言） 背景噪音（环境噪音） 信道差异（固定电话，麦克，手机等） 声学模型（HMM，mono-phone，bi-phone，tri-phone） 声学特征（MFCC） 解码（Viterbi）,语音识别基本术语（1）,识别指标： SER（Sentence Error Rate，句子
33、错误率） WER（Word Error Rate，词错误率） CER（Character Error Rate，字错误率） PER（Phone Error Rate，音节错误率） 采样率，8kHz（电话或手机），16kHz（麦克风） 时域，频域 端点检测，静音检测或有效音检测（VAD）,语音识别基本术语（2）,人类利用语言相互交流信息，包括语音和文字两种表达方式。通过语音相互传递信息，这是人类最重要的基本功能之一。随着信息社会的发展，人与人之间，人与机器之间也需要进行大量的信息交换。 计算机语音识别是智能计算机系统的重要特征。这一技术的应用将从根本上改变计算机的人机界面，从而对计算机的发展以及
34、推广应用产生深远的影响。,2.1 语音识别的重要性,2 语音识别,人与人之间、人与机器之间的语音信息处理过程,计算机模拟人类交流信息的过程,(1) 将大脑产生的思想转换成语言 (2) 将语言转换成相应的语音 (3) 识别表达语言的语音内容 (4) 理解语音所表达的语言意义,基于电话的语音识别技术，使计算机直接为客户提供金融证券和旅游等方面的信息查询及服务成为可能，进而成为电子商务中的重要一环(Voice-Commerce)。语音识别技术作为声控产业，对编辑排版、办公自动化、工业过程和机器操作的声控技术起到重大的推进作用。可以预言，语音技术必将对工业、金融、商业、文化、教育等诸方面事业产生革命性
35、的影响。,语音识别是一项具有巨大应用推广前景的工程,主要先进国家都将此工程列为国家级研究项目,面对如此广阔的应用领域，目前国内外众多公司正积极推动语音识别技术的应用。,微软：让计算机能说会听,IBM：ViaVoice仍居主流,Intel：做语音技术倡导者,Bill Gates 在97年世界计算机博览会(COMDEX)主题演讲会上描绘IT事业的发展宏图时指出： 下一代操作系统和应用程序的用户界面将是语音识别。工业界应对语音识别领域的重大突破做好充分准备，因为那将是一场席卷全球的另一次热潮。1998年11月5日，微软中国研究院在北京成立。该中心的任务是重点研究计算机在中文环境下的易用性。,微软：让
36、计算机能说会听,IBM公司潜心研究语音识别技术迄今已达30年之久，投资超过2亿美元。IBM公司于1995年在北京成立了中国研究中心，中文语音信息处理成了该中心三大研究领域之一，并于1997年9月4日，在北京推出了中文连续语音识别产品ViaVoice。,IBM：ViaVoice仍居主流,1998年，英特尔公司也宣布致力于推广语音识别技术，除了在北京举办首届语音技术国际论坛之外，还在北京、上海、成都、广州等地展开了“基于英特尔框架的语音识别技术”的宣传活动。联合了七家世界著名学术机构（中科院自动化所、清华大学、香港科技大学、香港中文大学、麻省理工学院、俄勒岗研究院、WATERLLOO大学）成立了“
37、国际语音技术研究组织”，致力于计算机语音技术的基础研究，以加速中文语音识别技术的发展。,Intel：做语音技术倡导者,语音识别是研究如何采用数字信号处理技术自动提取以及决定语音信号中最基本、 最有意义的信息的一门新兴的边缘学科。它是语音信号处理学科的一个分支。语音识别所涉及的学科领域：信号处理、物理学（声学）、模式匹配、通信及信息理论、语言语音学、生理学、计算机科学（研究软硬件算法以便更有效地实现用于识别系统中的各种方法）、心理学等。,2.2 语音识别的定义、原理和分类,2 语音识别,语音识别是指从语音到文本的转换，即让计算机能够把人发出的有意义的话音变成书面语言。通俗地说就是让机器能够听懂人
38、说的话。 所谓听懂，有两层意思，一是指把用户所说的话逐词逐句转换成文本；二是指正确理解语音中所包含的要求，作出正确的应答。,2.2.1 语音识别的定义,有意义、有内容的信息是构成语音音韵特性、即语音的共性特征之基础，这类特征信息称为音韵信息。 语音信号中有关个人特征的信息、即语音的个性特征，如：音强、节奏、音高等，这类特征信息称为音律信息。从广义上讲，语音识别也包括了对说话人的识别，其主要内容是提取语音信号中有关个人特征的信息、即语音的个性特征（如：音律特性等），在这里专指有意义、有内容的识别。,音韵信息与音律信息,训练(Training)：预先分析出语音特征参数，制作语音模板(Templat
39、e)并存放在语音参数库中。识别(Recognition)：待识语音经过与训练时相同的分析，得到语音参数，将它与库中的参考模板一一比较，并采用判决的方法找出最接近语音特征的模板，得出识别结果。失真测度(Distortion Measures)：在进行比较时要有个标准，这就是计量语音特征参数矢量之间的“失真测度”。主要识别框架：基于模式匹配的动态时间规整法(DTW:Dynamic Time Warping)和基于统计模型的隐马尔柯夫模型法(HMM:Hidden Markov Model)。,2.2.2 语音识别的基本原理,不同的语音识别系统，虽然具体实现细节有所不同，但所采用的基本技术相似，一个典
40、型语音识别系统的实现过程如图所示。,语音识别原理框图,图 语音识别的实现,预处理,语音信号的放大、防混叠滤波、自动增益控制、模数转换、消除噪声、端点检测。,端点检测：从包含语音的一段信号中确定出语音的起点和终点。有效的端点检测不仅能使处理的时间减到最小，而且能排除无声段的噪声干扰。实验表明：端点检测的正确与否影响到识别率的高低。语音端点检测的方法：短时能量和短时过零率。,特征参数和识别方法有关系，是语音识别的关键之处，选择的好坏直接影响语音识别的精度。 语音特征参数包括：短时平均能量、短时过零率、频谱、三个共振峰频率（F1、F2、F3的频率值、带宽、幅值）、线性预测系数、LPC倒谱和Mel倒谱
41、等。,语音特征参数的提取,将未知语音的特征参数与模板参数逐一进行比较与匹配，判决的依据是失真测度最小的准则。 语音识别的测度有很多，欧氏距离测度及其变形、线性预测失真测度等。,模式匹配,欧氏距离测度,K维特征矢量：Xixi1 , xi2 , , xiKYjyj1 , yj2 , , yjK,均方误差欧氏距离,先对系统中的每个字，做一个码本作为该字的参考（标准）模板,共有M个字，故共有M个码本，组成一个模板库。 识别时，对于任意输入的语音特征矢量序列XX1 , X2 , , XN，计算该序列中每一个特征矢量对模板库中的每个码本的总平均失真量误差，找出最小的失真误差对应的码本（代表一个字），将对应
42、的字输出作为识别的结果。,模式匹配过程,模式匹配示意图,特征矢量序列 XX1 , X2 , , XN 模板库 Y1 , Y2 , , YM,特征矢量 序列形成,任意语音帧,X,码本 Y1 Y2YM,计算 失真误差 判决,输出结果Yi,每一个字做一个码本，共M个字,模板库,模板库,X1 , X2 , , XN,模板库,语 码本,Y1 ,Y2 ,YN,学 码本,音 码本,文 码本,wen,专家知识库,用来存储各种语言学知识，如汉语声调变调规则、音长分布规则、同音字判别规则、构词规则、语法规则、语义规则等。对于不同的语言有不同的语言学专家知识库。,判决是语音识别的最后一步，也是系统识别效果的最终表现
43、。根据若干准则及专家知识，判决选出可能结果中最好的结果，由识别系统输出。,语音识别系统框架,特征提取,训练,模式匹配,拒识,语法,模型,结果,语音,说话人自适应,语音识别过程,相对于西方语言来说，中文有自己的独特之处。中文是有调语言，发音的基本单元是声母和韵母并且以音节为自然单位，一个音节就是一个字甚至词，以至字词的时长很短，混淆度更大。 另外，中文用415个基本的无调音节来构成7000多个基本汉字的发音，多音字很多。 特别是，中文的发音和字是独立的，仅仅是中国大陆地区就有很多的方言，口音问题非常严重。特别是在做中文孤立词和短语命令识别的时候，由于没有上下文的信息并且语音的长度很短，口音会严重
44、地降低识别率。,中文语音识别的特点,中文语音建模基元比较,按识别器的类型按识别器对使用者的适应情况按语音词汇表的大小,2.2.3 语音识别的分类,按识别器的类型,特定人语音识别(Speaker-Dependent)语音识别的标准模板或模型只适应于某个人，实际上，该模板或模型就是该人通过输入词汇表中的每个字、词或短语的语音建立起来的。其他人使用时，需同样建立自己的标准模板或模型。非特定人语音识别(Speaker-Independent)语音识别的标准模板或模型适应于指定的某一范畴的说话人（如说标准普通话），标准模板或模型由该范畴的多个人通过训练而产生。 识别时可供参加训练的发音人（圈内人）使用，
45、也可供未参加训练的同一范畴的发音人（圈外人）使用。,按识别器对使用者的适应情况,有限词汇识别 按词汇表中字、词或短句个数的多少，大致分为：100以下为小词汇；100-1000为中词汇；1000以上为大词汇。无限词汇识别（全音节识别） 当识别基元为汉语普通话中对应所有汉字的可读音节时，则称其为全音节语音识别（音节字表：Lexicon）。 全音节语音识别是实现无限词汇或中文文本输入的基础。,按语音词汇表的大小,2.3 语音识别的历史回顾,2 语音识别,1952年贝尔研究所Davis等人研究成功了世界上第一个能识别10个英文数字发音的实验系统。1960年英国的Denes等人研究成功了第一个计算机语音
46、识别系统。大规模的语音识别研究是在进入了70年代以后，在小词汇量、孤立词的识别方面取得了实质性的进展*。80年代以后，研究的重点逐渐转向大词汇量、非特定人连续语音识别。在研究思路上也发生了重大变化，即由传统的基于标准模板匹配的技术思路开始转向基于统计模型 (HMM)的技术思路。此外，再次提出了将神经网络技术引入语音识别问题的技术思路。90年代以后，语音识别的系统框架方面并没有什么重大突破。但语音识别技术的应用及产品化方面出现了很大的进展。,2.3.1 国外语音识别研究的历史（1）,这一时期的语音识别方法基本上是采用传统的模式识别策略。其中以苏联的Velichko和Zagoruyko、日本的迫江
47、和千叶，以及当时在美国的板仓等人的研究工作最具有代表性。 - 苏联的研究为模式识别应用于语音识别这一领域奠定了基础； - 日本的研究则展示了如何利用动态规划技术在待识语音模式与标准语音模式之间进行非线性时间匹配的方法； - 板仓的研究提出了如何将线性预测分析技术(LPC)加以扩展，使之用于语音信号的特征抽取的方法。目前在大词汇语音识别方面处于领先地位的IBM语音研究小组，就是在70年代开始了它的大词汇语音识别研究工作的。AT&A的贝尔研究所也开始了一系列有关非特定人语音识别的实验。这一研究历经10年，其成果是确立了如何制作用于非特定人语音识别的标准模板的方法。,国外70年代所取得的实质性的进展
48、,这一时期所取得的重大进展有： （1）隐码尔柯夫模型(HMM)技术的成熟和不断完善成为语音识别的主流方法。 （2）以知识为基础的语音识别的研究日益受到重视。在进行连续语音识别的时候，除了识别声学信息外，更多地利用各种语言知识，诸如构词、句法、语义、对话背景方面等的知识来帮助进一步对语音作出识别和理解。同时在语音识别研究领域，还产生了基于统计概率的语言模型。 （3）人工神经网络在语音识别中的应用研究的兴起。在这些研究中，大部分采用基于反向传播法（BP算法）的多层感知网络。人工神经网络具有区分复杂的分类边界的能力，显然它十分有助于模式划分。,国外80年代所取得的重大进展,特别是在电话语音识别方面，
49、由于其有着广泛的应用前景，成了当前语音识别应用的一个热点。另外，面向个人用途的连续语音听写机技术也日趋完善。这方面， 最具代表性的是IBM的ViaVoice和Dragon公司的Dragon Dictate系统。这些系统具有说话人自适应能力，新用户不需要对全部词汇进行训练，便可在使用中不断提高识别率。,国外90年代所取得的实质性的进展,DARPA(Defense Advanced Research Projects Agency)是在70年代由美国国防部远景研究计划局资助的一项10年计划，其旨在支持语言理解系统的研究开发工作*。到了80年代，美国国防部远景研究计划局又资助了一项为期10年的DARPA战略计划，其中包括噪声下的语音识别和会话（口语）识别系统，识别任务设定为“（1000单词）连续语音数据库管理”。到了90年代，这一DARPA计划仍在持续进行中。其研究重点已转向识别装置中的自然语言处理部分，识别任务设定为“航空旅行信息检索”。日本也在1981年的第五代计算机计划中提出了有关语音识别输入-输出自然语言的宏伟目标，虽然没能实现预期目标，但是有关语音识别技术的研究有了大幅度的加强和进展。1987年起，日本又拟出新的国家项目-高级人机口语接口和自动电话翻译系统。,
