1、1,盲信号分离及其应用(续),报告人： 张贤达清华大学自动化系email: zxd-,2,五、非线性主分量分析（PCA）,目前基于非线性主分量分析的盲信号分离典型方法有递推最小二乘算法1和自然梯度的最小二乘算法2。非线性PCA准则34：P. Pajunnen和J. Karhunen从这个准则出发，借鉴Yang的子空间跟踪算法的推导5，给出了递推最小二乘算法：,3,Pajunnen的RLS算法,4,自然梯度RLS算法,以上的RLS算法是从非线性PCA准则出发的一种随机梯度算法。Zhu和Zhang 2 从自然梯度角度出发提出了一种收敛速度更快的RLS算法。首先利用正交约束下的自然梯度公式67：给出
2、盲信号分离最佳权系数矩阵：,5,自然梯度RLS算法（续）,然后再运用矩阵求逆引理10，便得到权系数矩阵更新的RLS算法：,6,六、卷积信道的盲信号分离,实际信号的混合都是有时延的情况，如通信信道、语音信号的混合等，通常这样的混合模型简化如下：“*”是卷积运算， 是多通道系统的脉冲响应。我们的目的就是设计一组逆滤波器 使得：,7,卷积信道的主要方法,对于卷积信道的盲分离目前主要存在着三大类方法： 频域中的盲信号分离方法 时域中的盲信号分离方法 频域和时域相结合的盲信号分离方法,在频域方法里，首先对接收到的混合信号做短时FFT变换，这样时域的卷积模型在频域里就变成了瞬时混合模型：,8,频域盲信号分
3、离,因此在频域里我们可以应用瞬时混合信道的盲信号分离方法，例如将原来的Bell 和Amari的ICA准则拓展到复数域就会分别得到频域里分离矩阵的两种更新公式：和频域的方法虽然简单，但是它存在两个固有的问题：位置（permutation）的不确定性和增益（gain）的不确定性。,9,频域盲信号分离（续）,针对这两个问题，最近很多文章提出了结合阵列信号处理的解决方法，如89。,10,时域盲信号分离,时域盲信号分离的方法目前主要是从反卷积的角度出发，文献给出高阶统计量准则：其中 是 的四阶累计量。从这个准则出发得到逆滤波器矩阵组 的更新公式为（这里取L阶的FIR来近似IIR系统）：其中,11,频域与
4、时域相结合,频域方法与时域方法相比具有算法简单收敛速度快等优点，但是其固有的位置和增益的不确定性问题解决起来很困难；而时域的盲分离方法避免了这一点，但是它算法复杂，收敛速度慢，只有在最优点附近才能快速收敛。针对频域和时域方法的优缺点，Tsuyoki在11中提出了一种多策略的盲信号分离方法，该方法是分两步：第一步在频域里做盲分离；然后在时域里再进行分离。下图是该方法的过程示意图。,12,多策略盲信号分离,13,七、应用,语音信号处理 图象信号处理 通信信号处理 医学信号处理 雷达,14,参考文献,1 P. Pajunnen, J. Karhunen, “Least-Squares methods
5、 for blind source separation based on nonlinear PCA,“ Int. J. of Neural Systems, Vol. 8, pp: 601-612, Dec. 1998.2 X. Zhu, X.Zhang, “Adaptive RLS algorithm for blind source separation using a natural gradient,“ IEEE Signal Processing Letters, Vol. 9, pp:1-4, Dec. 2002. 3 L. Xu, “Least mean square err
6、or reconstruction principle for self-organizing neural-nets,“ Neural Networks, Vol. 6, pp: 627-648, 1993.4 J. Karhunen, P. Pajunen, and E. Oja, “The nonlinear PCA criterion in blind source separation: relations with other approaches,“ Neurocomputing, vol. 22, pp. 5-20, 1998.,15,参考文献,5 B. Yang 1995,
7、“Projection approximation subspace tracking,“ IEEE Trans. on Signal Processing 43, 1247-1252. 6 Douglas S C. Self-stabilized gradient algorithms for blind source separation with orthogonality constraints. IEEE Trans. Neural Networks, 2000, 11(6): 1490-14977 Amari S. Natural gradient learning for ove
8、r- and under-complete bases in ICA. Neural Computation, 1999, 11(8): 1875-18838 H. Saruwatari, T. Kawamura,etc., “Evaluation of fast-convergence algorithm for blind source separation of real convolutive mixture,“ Signal Processing, 2002 6th International Conference on, vol. 1, pp.346-349, Aug. 2002.
9、,16,参考文献,9 N. Murata, S. Ikeda, and A. Ziehe, “An approach to blind source separation based on temporal structure of speech signals,“ Neurocomputing, vol. 41, pp. 1-24, Oct. 2001. 10 张贤达. 信号处理中的线性代数. 北京：科学出版社，1997。11 N. Tsuyoki, S. Hiroshi, S. Kiyohiro, “Blind Source Separation Based on Multi-Stage
10、ICA Combining Frequency-Domain ICA and Time-Domain ICA,“ ICASSP2002, pp: 2938-2941, May 2002. 12 张贤达，朱孝龙，保铮，基于分阶段学习的盲信号分离，中国科学E辑，2002，32（5）：693703,17,参考文献,13 Shun-Tian Lou and Xian-Da Zhang, “Fuzzy-based learning rate determination for blind source separation,“ IEEE Trans. Fuzzy Systems, 2003, 11(3)
11、:.375-383.14 Da-Zheng Feng, Xian-Da Zhang, Zheng Bao, An efficient multistage decomposition approach for independent components, Signal Processing, 2003, 83(1):181-197. 15 朱孝龙，张贤达，冶继民，基于自然梯度的递归最小二乘盲信号分离分阶段学习的盲信号分离，中国科学E辑，2003，33 (8)：74174816 张贤达，保铮，盲信号分离，电子学报，2001, 19 (12A)：1766-1771,18,参考文献,17 Yang
12、 H H, Amari S. “Adaptive online learning algorithms for blind separation: maximum entropy and minimum mutual information“, Neural Computation, 1997, 9(5): 1457-148218 Cardoso J F, Laheld B. “Equivariant adaptive source separation“, IEEE Trans. Signal Processing, 1996, 44(12): 3017-3030,19,谢 谢2003年11月,
