基于隐马尔科夫模型和支持向量机的模拟电路早期故障诊断.doc-道客多多

2、期故障, 并对模拟电路中元件小范围参数变化的状态识别, 相较单一 HMM 模型具有更高的准确率。关键词：隐马尔科夫模型; 支持向量机; 故障诊断; 模拟电路; 早期故障; 作者简介：郑志文 (1993-) , 男, 江西南昌人, 硕士研究生, 主要从事测试性与故障诊断方向的研究。作者简介：王晓峰 (1964-) , 男, 黑龙江哈尔滨人, 副教授, 硕士研究生导师, 主要从事故障诊断与测试性方向的研究。收稿日期：2017-04-18Incipient Fault Diagnosis of Analog Circuits Based on HMM-SVMZheng Zhiwen Wang Xi

3、aofeng Reliability and System Engineering Academy, Beihang University; Abstract： Considering the problem that the rate of incipient fault diagnosis of analog circuit is not high in Prognostics and Health Management (PHM) , an fault diagnosis method of analog circuit based on HMM and support vector m

4、achine (SVM) has been proposed.Using HMMs strongly identify dynamic continuous signals ability and SVMs great pattern classification ability to solve incipient fault diagnosis of analog circuits.The principal component analysis (PCA) and K-means clustering algorithm are used to reduce data dimension

5、 and extract the fault data, and then establish HMM-SVM model for fault diagnosis.Simulation results show that HMM-SVM can well identify the ncipient fault of analog circuit and identify the state of small-scale parameter variation in the analog circuit, which has higher accuracy than single HMM mod

6、el.Keyword： hidden Markov model; support vector machine; fault diagnosis; analog circuits; incipient fault; Received： 2017-04-180 引言在电子系统中, 模拟电路的故障数占故障总数的 80%, 由于存在故障模型复杂, 元器件参数分散性较大, 同时系统非线性等问题, 对模拟电路的故障诊断一直都是现代电路研究的热点1。模拟电路的故障可分为硬故障和软故障两种, 硬故障是指电路中的元器件参数发生“质”的变化, 从而导致系统严重失效, 如断路、短路、元器件损坏等。软故障通常是指元

7、器件参数在受到时间和环境的影响下, 逐渐偏移出其容差范围, 从而导致系统出现功能性故障或性能的恶化。目前, 对硬故障诊断的研究已经取得较好的成果, 而对软故障诊断尤其是早期故障诊断依然有很多尚待解决的问题。为了降低由模拟电路故障而导致的系统故障所造成的损失, 故障预测与健康管理 (PHM) 在电子系统中的实际应用已成为未来的发展趋势。PHM 指的是使用先进的传感器对系统的各项状态参数进行实时的监测和收集, 通过建立智能算法和模型对收集的参数进行系统状态的评估, 并提供系统故障的预测, 为系统的维修保障提供合理的决策, 以实现系统的状态维修2。PHM 技术的主要目的在于在系统故障发生之前对系统进

8、行状态监测, 对于模拟电路的软故障, 目前大多数文献将故障元器件的参数偏离其正常值的 50%以上定义为软故障, 而对参数大于容差范围但小于标称值 50%之间的元件, 此时元件还未故障, 电子系统未完全失效, 若此时能够对元件的状态进行一个准确地判断, 在软故障发生之前替换故障元件, 能够起到防范于未然的作用, 对电子系统是一个很好的保护。然而, 在该参数范围内的元件, 变化范围越小, 输出的特征与正常状态相比对越不明显。现常用的模拟电路诊断方法是对在电路发生硬故障或元件参数偏离较大情况下的软故障有较好的诊断识别效果, 而对于在元件参数偏离较小的情况下效果不是很理想。因此, 本文将大于元件容差小

9、于软故障判定参数之间范围分为 2 类, 分别定义为早期故障和中期故障, 加上软故障状态和容差范围内的正常状态共 4 种状态, 如表 1 所示。表 1 各状态对应的元器件参数变化下载原表隐马尔可夫模型 (Hidden Markov Model, HMM) 是一种最初由马尔可夫链发展而来的统计概率模型, 可以描述含有一个隐含参数的马尔科夫过程4, 由Baum 和 Peterie 在 1966 年提出, 70 年代 HMM 被应用在语音识别领域并取得良好效果, 80 年代中期逐渐应用到模式识别、信号处理等领域5。作为信号动态时间序列的统计模型, HMM 可以通过严格的数据结构和可靠的模型对时间范

10、围的统计信息进行建模。由于模拟电路的软故障具有动态变化的特点, 相比一些停留在静态分析的传统故障诊断方法, 能够更好地保留样本数据的统计信息, 具有更高的识别率7。支持向量机 (support vector machine, SVM) 是一种集成了最大间隔超平面、凸二次规划、Mercer 核、松弛变量和稀疏解等技术, 能够较好地实现了结构风险最小化思想并且具有较好学习能力的通用学习机器。对于小样本、高维数、非线性等问题, 它都能够很好地解决并具有良好的泛化能力。对于非线性问题, 它提出通过核函数将低维的样本空间变换到高维空间, 以较大的距离将样本类别分开, 具有很好的分类能力8。HMM 适合处

11、理动态连续变化, 能够很好地表示类别内的相似性, 但在确定最相似模型比较输出概率时, 有可能出现多个 HMM 模型的最大似然概率过于相近或相等, 存在误判的风险。因此本文引入 SVM 与 HMM 组成 HMM-SVM 模型, 利用SVM 适合于处理分类, 能够最大程度反映出类别间差异的优势, 对模拟电路的参数变化情况进行监控, 来解决模拟电路软故障及早期故障诊断准确率不高的问题。1 HMM-SVM 故障诊断模型1.1 HMM 基本原理HMM 作为一种用于描述随机过程统计特性的概率模型, 主要由两个随机过程组成, 其中一个用来描述每个实际状态之间的转移概率分布, 另一个用来描述每个状态在其观测序

12、列的概率分布。模型中实际状态是不可观测, 隐藏的, 只有通过观测序列获得状态序列的描述, 因此称为 HMM4。一个 HMM 可以通过以下参数描述:1) N:模型中马尔科夫链的状态数目。记 N 个状态为 S1, S2, , Sn, 记 t 时刻马尔科夫链所处的状态为 q, 且 qS 1, S2, , Sn。2) M:每个状态对应的可能观测数目, 记 M 个观测值为 o1, o2, , om, 记 t 时刻的观测值为 oi, 且 oio 1, o2, , om。3) :初始概率分布, = ( 1, 2, , N) , 其中:qi表示初始时刻的状态。4) A:状态转移概率矩阵, A= ijNN, 其

13、中:5) B:观测值概率矩阵, B=b jkNM, 其中:对于连续 HMM, B 是一组观察值概率函数, 即 B=bj (X) , j=1, , N。因此, 可以将一个 HMM 记做:= (N, M, , A, B) , 简写为:HMM 主要解决评估问题、解码问题和学习问题14。评估问题主要解决对于给定一个观测序列, 该观测序列是由已确定的 HMM 产生的概率大小问题, 即已知给定模型和观测序列 O, 计算概率 P (O|) , 通常由前向-后向算法解决;解码问题是解决对于给定一个观测序列和确定的 HMM, 通过两者确定 HMM 内的隐含状态序列的问题, 即给定模型和观测序列 O, 求可能

14、性最大的状态序列Q, 通常是由 Viterbi 算法实现;学习问题是解决如何根据给定的观测序列和其相对应的状态序列, 在最大似然意义上学习得到一个合适的 HMM 问题, 即模型的训练问题, 对给定观测序列 O 和其相对应的状态序列 Q, 学习得到模型 = (, A, B) , 使得 P (O|) 最大, 通常由 Baum-Welch 算法训练9。在模拟电路的故障诊断问题中, 主要是解决学习和评估问题, 即先建立合适的模型再通过已建立的模型进行系统状态的识别。1.2 SVM 基本原理SVM 是一种在统计学习的理论框架下, 采用结构风险最小化准则的学习机器。它是通过最大化分类间隔以最小化 VC 维

15、 (函数集的复杂度) , 在保证经验风险 (训练误差) 的基础上最小化置信风险, 使得实际风险达到最小, 从而获得更好的推广能力10。给定训练样本集 D= (x1, y1) , (x2, y2) ., (xm, ym) , yi-1, +1, 其中 yi为类别函数, x i可能是对象样本中的某些特征值直接构造的向量, 也可能是通过某个核函数将原始向量映射到高维空间的映射向量。在样本空间中构造超平面 (即分割平面) :其中:= ( 1; 2;.; d) 为法向量, 决定了超平面的方向;b 为位移项, 决定了分割平面与原点之间的距离。假设超平面 (, b) 能将训练样本正确分类, 即对于 (x i

16、, yi) D, 若 yi=+1, 则 x i+b0;若 yi=-1, 则 x i+b0。令: 可以描述为:定义判别函数:则测试集的分类函数可以描述为:可以通过求公式的最小值来获得最大的分类边界, 即:满足的约束条件:求解上述函数的解可等同于求下面函数的最大值, 即:并且满足约束条件:式中, k (x iyj) 是核函数, 最后求得分类函数为:通过训练数据获得最优超平面后, 对于给定的未知样本, 只需要代入式子 12 计算获得指示函数的值, 通过该值便可判断样本所属的分类。1.3 基于 HMM-SVM 的混合诊断模型HMM 可以根据模拟信号的时序关系对模拟电路的响应进行建模, 并且可以反映信号

17、的变化趋势, 但只能通过最大似然概率判断类别, 如果出现相同最小概率, 容易出现误判;SVM 的故障诊断则是依据当前时刻的信号特征进行诊断, 不考虑前后时刻响应信号之间的联系与影响, 具有较好的分类能力, 因此, HMM 与 SVM两者的结合能够较好地克服各自的不足。基于 HMM-SVM 模型的模拟电路故障诊断的具体流程如图 1 所示。1) 首先对训练样本数据进行数据预处理和特征提取。利用主成分分析方法对原始特征向量进行降维处理, 并采用 kmeans 聚类算法生成训练 HMM 模型所需要的状态观测序列 O;2) 利用 Baum-Welch 对 HMM 模型进行训练, 排除似然概率小的类 (通

18、过试验表明去除总类数的一半时 HMM-SVM 的诊断表现最佳) 。3) 将剩余的类作为候选模式集, 候选模式集中每类故障模式中的特征向量与故障模式标签进行组合送入 SVM 分类器中进行训练。4) 诊断时, 对测试样本数据做与训练样本同样的预处理和特征提取后, 输入到训练好的 HMM, 计算与各状态 HMM 模型的最大似然概率, 即匹配程度, 排除较小的类, 再利用训练好的 SVM 对剩余的类进行状态识别, 从而获得诊断结果。2 基于 HMM-SVM 的模拟电路故障诊断二次高通滤波器11如图 2 所示, 其中 R1=R2=R3=6.2k, R4=R7=R8=R9=R10=1k, R5=R6=5.

19、1k, C1=C2=5nF, 设置电阻电容的容差范围分别为标称值的5%和10%。通过对电路进行灵敏度分析得到 C1, C2, R1, R7 的参数变化相较其它元件对电路的输出变化影响较大, 如图 3 为 C1, C2, R1, R7 在早期故障模式下与正常状态的输出响应对比曲线, 故障模式下的响应曲线与正常状态下的响应曲线差异明显, 因此将 C1, C2, R1, R7 设置为故障元器件。为了更好地识别电路的早期故障, 将元器件状态分为正常状态、早期故障、中期故障和完全故障, 各状态对应的元器件参数变化如表 1 所示。因此可将该电路故障类型分为 13 种, 分别为正常状态, C1 早期故障,

20、C1 中期故障, C1 完全故障, C2 早期故障, C2 中期故障, C2 完全故障, R1 早期故障, R1 中期故障, R2 完全故障, R7 早期故障, R7 中期故障, R7 完全故障, 相对应的故障编号分别为 F0F12。电路激励源的电压设置为 1Vac, 幅角为 0, 电路输出点作为测试点, 使用Pspice 软件对电路进行 13 种状态的模拟仿真, 每种状态下进行 50 次蒙特卡洛分析, 仿真时任意时刻只有一个元件的参数值在其故障范围内变化, 其它剩余元件均在容差范围内变化, 正常态时所有元件都在容差范围内变化。在 1kHz到 100kHz 提取输出电压值, 采样点数为 50

21、个, 每种状态都对应形成 50 个 50维的特征向量。其中每种状态的 135 为训练样本, 后 15 个作为测试样本。图 1 基于 HMM-SVM 故障诊断流程图下载原图图 2 四运放双二次高通滤波器下载原图图 3 C1, C2, R1, R7 的各自故障与正常情况下的输出响应曲线下载原图故障诊断的过程主要包括数据处理与特征提取, 模型的建立与训练, 故障识别等步骤。如图 4 所示。图 4 基于 HMM-SVM 的诊断流程图下载原图2.1 数据处理与特征提取样本数据的高维度容易对模型诊断的准确率造成影响, 本文采用主成分分析 (PCA) 12-13方法对样本数据进行降维处理。PCA 是

22、一种对数据信息进行处理、压缩和抽取的常用方法, 主要用于高维数据的降维, 其方法主要是通过某种线性投影, 将数据从原始高维空间映射到低维向量空间, 并且使得数据在低维空间的方差最大, 维数降低后的向量依然可以保留原始数据的主要信息。对上面故障特征值构成的原始样本集 (X ij) mn (m 为样本数目, n 为故障特征值的数目) , 特征提取的步骤为:1) 原始数据标准化:其中: 将新的标准化矩阵记为 X。2) 建立样本数据的协方差矩阵, 并求出其特征值与特征向量:其中:R 样本相关矩阵 =diag ( 1, 2, ., n) , 1 2 n。U=u 1, u2, ., un是与特征值相对应的

23、标准正交特征向量组成的矩阵。3) 计算前 k 个主元的方差贡献率 k, 通过方差贡献率大小选取主成分: k反应的是新生成分量对原始数据的保存程度。4) 选取前 k 个特征值所对应的特征向量, 并构建变换矩阵 K:5) 建立故障特征向量。根据公式 T=XK 计算出所需的故障特征主成分值。在本例电路中, 根据计算可得当取主元值为 13 时 (即将每类故障状态的特征向量维数由 50 降为 13) , 方差贡献率达到 99%, 能够很好的反应原始特征数据集。2.2 基于 HMM-SVM 模型的训练2.2.1 HMM 模型的建立与训练由于模拟电路的状态具有连续性和渐变性的特点, 因此 HMM 模型的基础

24、结构应该是左右型模型, 同时, 模拟电路存在早期故障和完全故障, 可定义一个 4 种状态的 HMM 模型, 各状态分别为正常状态、早期故障、中期故障、完全故障。早期故障状态大多是受到环境的影响而出现的暂时性失效, 与正常状态之间的转换是可逆的, 而其他状态之间不具有可逆性。HMM 模型的初始概率 =1, 0, 0, 0, HMM 模型的结构如图 5 所示。A=0.5, 0.5, 0, 0;0.25, 0.25, 0.5, 0;0, 0, 0.5, 0.5;0, 0, 0, 1, 观察序列 O 由样本数据集利用 k-means 算法聚类得到。由此, 可利用 Baum-Welch 算法训练建立隐马

25、尔科夫模型 = (, A, B) 。图 5 HMM 模型的马尔科夫链示意图下载原图为了提高 HMM 诊断模型的鲁棒性, 采用 Baum-Welch 算法对多个观察序列进行训练:其中: 为前向变量, 为后向变量, L 为观测值序列的数量。在使用初始模型对训练样本进行匹配和状态标注后, 使用上式来估算出一组新的模型, 再利用新得到的模型重新进行匹配和状态标注, 更新后的模型为, 如此反复迭代直至收敛 (收敛条件为 , 最后得到优化模型使得最大 P (O|) 。HMM 模型最快在 10 次迭代即收敛, 最慢在 30 次迭代后收敛, 由此得到 13 个训练好的 HMM 模型, 如图 6 所示。2.

26、2.2 SVM 模型的选择与训练SVM 主要用来处理二元分类问题, 当需要进行多类别分类时, 就需要通过构造合适的多类分类器来解决。目前较常用的方法有:一对一、一对多、有向无环图等。由于“一对一”方法具有单个 SVM 训练规模较小, 训练数据均衡且易于拓展的特点, 因此这里选用“一对一”方法。在诊断时, 使用投票法计算每种类别得票的多少来进行决策。图 6 各类 HMM 模型训练迭代收敛图下载原图常用的 SVM 核函数有:线性核、高斯核、多项式核、拉普拉斯核等。这里采用的是高斯核函数:训练过程中, 将 13 类故障状态的训练数据 (每类 35 个样本向量) , 归一化后加上类别标签作为训练样本

27、向量, 两两组合构成分类器进行区分, 一共构造了C13=78 个 SVM 分类器。3 基于 HMM-SVM 的故障识别与结果分析在本例电路中, 将 13 种电路状态的后 15 组样本向量作为测试样本输入 HMM-SVM 诊断模型。首先对每个样本向量进行数据处理与特征提取, 形成的观测序列, 送入 HMM 分类器, 用 Viterbi 算法计算各个状态 HMM 模型下此观测值序列的概率 P (O|) , 选取概率最大的 6 类作为候选类集。然后将该样本向量与候选类集共同送入 SVM 分类模型, 选取这 6 类所对应的两两组合的 SVM 模型, 即 C6=15 个 SVM 分类器进行分类, 最后对每种状态进行得票判断, 得票最多的便是该样本向量所对应的电路状态。通过对这 165 个样本向量进行测试诊断, 结果见表 2 所示。表 2 HMM 与 HMM-SVM 诊断结果比较下载原表由表 2 可见, HMM-SVM 模型的故障准确率相对 HMM 单一模型平均提升了 3.82%, 诊断的准确率更加平稳。两者对于模拟电路的早期故障都有较好的识别能力, HMM-SVM 对于小范围内参数的变化有着相对更佳的诊断效果。总之, HMM-SVM 模型相较于单一 HMM 模型在模拟电路故障诊断有很好的改进, 诊断效果良好。4 结论

展开阅读全文