基于批处理和核函数的非线性盲源分离算法✴

禹华钢，高俊，黄高明

基于批处理和核函数的非线性盲源分离算法✴

禹华钢，高俊，黄高明

（海军工程大学电子工程学院，武汉430033）

针对基于核函数的非线性盲源分离算法性能对核函数及其参数选择依赖性强这一问题，提出采用批处理方法代替聚类和核主成分分析方法来构造低维近似子空间的正交基，以改进基于核函数的非线性盲源分离算法对核函数及其参数变化的稳健性，并对这种改进的非线性盲源分离算法进行了完整的分析。通过仿真实验，对分离信号与源信号求相似度，可以看到提出的基于批处理的非线性盲源分离算法能够取得更稳健、准确的分离效果。

信号处理；非线性盲源分离；核函数；聚类；批处理；相似度

1 引言

盲源分离（Blind Source Separation，BBS）是指在源信号和传播信道参数未知的情况下，只利用传感器阵的观测数据来分离、提取源信号的过程。其在无线通信、雷达、声纳、语音信号处理、医学信号处理、图像处理等方面有着广泛的应用前景和价值［1，2］，近年来，已成为信号处理和神经网络领域的一个研究热点。

典型BSS问题主要是对线性瞬时混合的独立源信号进行独立成分分析，从而分离源信号。目前已出现了一大批性能良好的算法，如Infomax、JADE、FastICA［1］、TDSEP［3］、KICA［4］等。但在现实环境中，多传感器的混合过程包含有非线性的成分。在实际情况中，非线性的混合非常普遍，对这种情况的研究显得更为实际和重要。目前对非线性混合信号盲分离问题的研究较少并存在许多困难，已取得一些研究成果有Lee［5］的参数sigmoidal函数方法、Woo［6］等给出的神经网络方法、Valpola［7-8］的Bayesian总体学习方法、Ziehe［9］的时间解相关方法、Almeida［10］的基于互信息的MISEP方法和Zhang［11］的最小非线性失真的非线性ICA方法等。尽管这些方法各有特点，但总体性能还不能令人满意。

考虑到大多数信号都是时间信号，Harmeling［12］结合核特征空间、构建低维近似子空间、TDSEP（Temporal Decorrelation Source SEParation）二阶时间解相关盲源分离算法和源信号成分选择，提出了KTDSEP非线性盲源分离算法，通过核函数映射将原空间中的非线性问题转化为高维特征空间中的线性运算，再利用线性的方法进行分离，针对某一非线性混合，通过调整核函数的种类及其参数能取得很好的分离效果。文献［12］中Harmeling采用聚类（Clustering）和核主成分分析（Kernel Principle Component Analysis，KPCA）的方法来构建低维近似子空间的正交基，作为空间F的低维表示。然而，当观测数据的长度很大时，采用聚类和核主成分分析的方法在初始化过程中需要很大的存储空间。通常只取其中一小部分观测数据来进行计算，以至原观测数据中包含的部分信息丢失，因此算法性能受核函数参数变化的影响较大，往往需要在已知非线性混合方式的情形下，对核函数的参数进行调整才能得到良好的分离效果。但是在实际情况中，非线性混合方式往往是未知的，如何提高算法对核函数参数的稳健性至关重要。针对这一问题，本文采用批处理算法［13］来构造低维近似子空间，在核函数参数变化范围内，对于超高斯和亚高斯信号的不同非线性混合方式均取得了良好的分离效果。该算法简便并降低了计算复杂度和所需的存储空间［13］。

2 基于批处理的KTDSEP非线性盲源分离算法

2.1 非线性盲源分离问题

非线性混合形式的数学模型可表示为

式中，x（t）=（x1（t），x2（t），…，xm（t））T（t=1，2，…，T）是m个混合信号矢量，s（t）=（s1（t），s2（t），…，sm（t））T（t=1，2，…，T）是m个未知的独立源信号矢量（仅考虑源信号和混合信号个数相等的情况），fi（·）（i=1，2，…，m）为Rm到Rm的非线性可逆混合函数。非线性盲源分离问题就是根据观测的混合信号x（t）（t=1，2，…，T）估计出独立源信号矢量。

2.2 TDSEP线性盲源分离算法

对于线性混合，混合函数f可以简化为混合矩阵A。做以下假设：混合矩阵A列满秩；源信号之间是互不相关的，有不同的相关函数，但在时间上满足相关性。在此假设的基础上，可以得出TDSEP盲源分离算法如下：

根据假设，由于x（t）=As（t），混合信号x（t）的相关矩阵满足：

对于源信号，根据假设2可得

和

都是非零元素不同的对角阵。取多个时间延迟τi（i =1，2，3，…，M），求矩阵W对Rs（τi）（i=1，2，3，…，M）进行同时对角化，则W=A＃，＃为混合矩阵A的广义逆矩阵，则y（t）=Wx（t）即为分离信号。考虑到大部分自然界中信号都有显著的时间结构，相对于基于高阶统计量的盲源分离算法，基于信号时间特征的方法计算复杂度较低，更加稳定，且不需要源信号满足非高斯性。

2.3 基于批处理的KTDSEP盲源分离算法

核盲源分离的思想是首先通过非线性映射φ：Rm→F将观测信号x（t）（t=1，2，…，T）映射到高维特征空间F，将原空间中的非线性问题转化为高维特征空间中的线性运算，再在高维特征空间F进行线性盲源分离。但是直接对φ（xi）进行计算，计算量特别大，不符合实际要求，所以考虑采用“核技巧”的方法将其转换为对Gram矩阵K进行运算，其中Kij=K（xi，xj）=〈φ（xi），φ（xj）〉。本文中使用常用的高斯核，即

K为T×T的矩阵，直接应用矩阵K来进行T维的盲源分离，计算量太大，而且不稳定。文献［12］中Harmeling采用聚类方法来构建低维近似子空间的正交基，作为空间F的低维表示。

设x（t）（t=1，2，…，T）对应高维特征空间的映射为φx：=（φ（x（1）），…，φ（x（T））），φv：=（φ（v1），…，φ（vd））为φx列空间的一组基向量，则

在此基础上可以定义正交基Ξ：=φv（φTvφv）-1／2，从而可以直接将输入数据映射到此正交基张成的高维特征子空间：

再根据核技巧，可以得到式（5）和式（6）：

然而，当观测数据的长度较大时，采用聚类方法在初始化过程中需要很大的存储空间。通常只取其中一小部分观测数据来进行计算，以至原观测数据中包含的部分信息丢失。所以本文采用批处理算法来构造低维近似子空间［13］，能有效提高计算效率和算法的稳定性。

将数据分成多个批次，依次从观测信号x（t）（t =1，2，…，T）选择d个数据组成观测信号子集SCi，i=1，2，…，c；c=T／d。分别计算Gram矩阵KSCi，从而可以计算平均Gram矩阵：

定义MSC为平均子集：

将式（7）、式（8）代入式（4）可得

再采用TDSEP算法，对x（t）（t=1，2，…，T）在高维特征空间的映射信号ψx（t）进行盲源分离。

定义对称时移协方差矩阵

3 仿真实验

为验证本文算法的有效性，进行了一系列的仿真实验。分别对亚高斯和超高斯信号的非线性混合进行盲源分离，将基于批处理的方法与基于聚类的方法进行比较。仿真实验中使用常用的高斯核函数

k（x，x′）=exp（-‖x-x′‖2／2σ2）；对低维近似子空间维数的选择，聚类算法中d=20，批处理算法中d=6。为了量化分离效果，采用分离信号与源信号的相似系数ξij来测试分离信号与源信号之间的相似度［14］。相似系数ξij的计算表达式为

3.1 亚高斯信号仿真实验

两路源信号如图1所示，s1（t）=（6+sin（2π× 66 t／fs））·（cos（2π×1222 t／fs））（t=1，2，…，2000；fs=2000）为调幅信号，s2（t）=（cos（2π×100 t／fs））（t=1，2，…，2000；fs=2000）为正弦信号。采用式（12）的混合方式，两路混合信号如图2所示。

分别采用基于聚类和基于批处理的KTDSEP非线性盲源分离算法进行盲源分离。分离信号如图3所示，可见取得了较好的分离效果。

取高斯核函数参数σ从1～10变化，依次对混合信号进行盲源分离，对分离信号与源信号求相似度，结果如图4所示，可以看出批处理方法比聚类方法受高斯核函数参数σ变化的影响更小，不会出现大范围的波动。

3.2 超高斯信号仿真实验

两路超高斯源信号如图5所示，是从TIMIT数据库中随机抽取的声音信号，分别为s1（t）=dr1-fetbo-sa2和s2（t）=dr2-mcewo-sx182。采用式（13）的混合方式，两路混合信号如图6所示。

采用KTDSEP非线性盲源分离算法进行盲源分离，分离信号如图7所示，可见取得了较好的分离效果。取高斯核函数参数σ从1～10变化，依次对混合信号进行盲源分离，对分离信号与源信号求相似度，结果如图8所示，可以看出当高斯核函数参数σ变化时，聚类方法的分离效果出现大范围的波动，极不稳定，而批处理方法的分离效果相对稳定，且分离效果整体上优于聚类方法。

4 结论

核方法是非线性盲源分离算法中的重要分支之一，通过把混合信号映射到高维核特征空间，在核特征空间中构造一组正交基而将混合信号映射到此正交基所张成的低维近似子空间，从而把非线性混合信号盲源分离问题转化为低维近似子空间的线性混合信号盲源分离问题。本文针对基于核函数的非线性盲源分离算法性能对核函数及其参数选择依赖性强，往往需要在已知非线性混合方式的情形下，对核函数的参数进行调整才能得到良好的分离效果的问题，采用批处理算法来构造低维近似子空间。仿真结果表明，改进算法在核函数参数变化范围内，对于超高斯和亚高斯信号的不同非线性混合方式均取得了良好的分离效果，具有良好的稳健性，而且实现简单，能充分满足实际应用的要求。

［1］HyvärinenA，Karhunen J，Oja E.Independent Component Analysis［M］.New York：Wiley，2001.

［2］高鹰，姚振坚，李朝晖，等.基于广义特征值和核函数的非线性盲分离算法［J］.系统工程与电子技术，2006，28（10）：1490-1493.

GAOYing，YAO Zhen-jian，LI Zhao-hui，et al.Algorithm for nonlinear blind source separation based on generalized eigenvalue decomposition and kernel feature space［J］. Systems Engineering and Electronics，2006，28（10）：1490 -1493.（in Chinese）

［3］Ziehe A，Müller K R.TDSEP-an efficient algorithm for blind separation using time structure［C］／／Proceedings of 1998 International Conference on Artifical Neural Networks. Springer，Berlin：［s.n.］，1998：675-680.

［4］Bach F，Jordan M.Kernel independent component analysis［J］.Journal ofMachine Learning Research，2002（3）：1-48.

［5］Lee TW，Koehler BU，Orglmeister R.Blind source separation of nonlinear mixing models［C］／／Proceedings of 1997 IEEE International Workshop on Neural Networks for Signal Processing.Amelia Island，FL，USA：IEEE，1997：406-415.

［6］WooW L，Knor L C.Blind restoration of nonlinearlymixed signals usingmultiplayer polynomial neural network［J］.IEE Proceedings of Vision Image and Signal Processing，2004，151（1）：51-61.

［7］Valpola H，Giannakopoulos X，Honkela A，et al.Nonlinear independent component analysis using ensemble learning：experiments and discussion［C］／／Proceedings of International Workshop on Independent Component Analysis and Blind Signal Separation.Helsinki，Finland：IEEE，2000：351-356.

［8］Valpola H，Oja E，Ilin A，etal.Nonlinearblind source separation by variational Bayesian learning［J］.IEICE Transactions on Fundamentals of Electronics，Communications and Computer Sciences，2003（3）：532-541.

［9］Ziehe A，Kawanabe M，Harmeling S.Blind separation of post-nonlinearmixtures using linearizing transformationsand temporal decorrelation［J］.Journal of Machine Learning Research，2003（4）：1319-1338.

［10］AlmeidaL B.MISEP-linear and nonlinear ICA based on mutual information［J］.Journal of Machine Learning Re-search，2003（4）：1297-1318.

［11］Zhang K，Chan LW.Minimal nonlinear distortion principle for nonlinear independent componentanalysis［J］.Journalof Machine Learning Research，2008（9）：2455-2487.

［12］Harmeling S，Ziehe A，Kawanabe M，etal.Kernel-based nonlinear blind source separation［J］.Neural Computation，2003（15）：1089-1124.

［13］Sun Z L，Huang D S，etal.Using batch algorithm for kernel blind source separation［J］.Neural Computation，2005，69（1-3）：273-278.

［14］Huang GM，Yang L X，He Z Y.Blind Source Separation Based on Generalized Variance［J］.Proceedings of Advances in Neural Networks，2006，1971：1153-1158.

YU Hua-gang was born in Shaodong，Hunan Province，in 1984.He received the B.S.degree and the M.S.degree from Naval University of Engineering in 2006 and 2008，respectively.He is currently working toward the Ph.D.degree.His research interests include blind signal processing，passive detection and wireless communications.

Email：yuhuagang103＠163.com

高俊（1957—），男，江苏泰兴人，1984年于海军电子工程学院获学士学位，1986年和1989年于北京理工大学分别获工学硕士学位和博士学位，现为海军工程大学教授、博士生导师，主要从事数字信号处理、数字通信、短波无线通信等；

GAO Junwasborn in Taixing，Jiangsu Province，in 1957.He received the B.S.degree from Naval Electronic College of Engineering，the M.S.degree and the Ph.D.degree from Beijing Institute of Technology in 1982，1986 and 1989，respectively.He is now a professor and also the Ph.D.supervisor.His research interests include signal processing，digital communications，HF communications.

Email：gaojunnj＠163.com

黄高明（1972—），男，湖南道县人，1995年和1998年于海军电子工程学院分别获学士学位和工学硕士学位，2006年于东南大学获博士学位，现为海军工程大学教授、博士生导师、中国电子学会高级会员，主要从事雷达／电子战信号处理、盲信号处理、无源探测、电子战系统仿真与效能评估等。

HUANGGao-ming was born in Daoxian，Hunan Province，in 1972.He received the B.S.degree and the M.S.degree from Naval Electronic College of Engineering and the Ph.D.degree from Southeast University in 1995，1998 and 2006，respectively.He is now a professor and also the Ph.D.supervisor.His research interests include electronic warfare，blind signal processing，passive detection，EW system simulation and evaluation.Email：hgaom＠163.com

Nonlinear Blind Source Separation Algorithm Based on Batch and Kernel Function

YU Hua-gang，GAO Jun，HUANGGao-ming
（College of Electronic Engineering，Naval University of Engineering，Wuhan 430033，China）

To solve the problem that the performance ofnonlinear blind source separation algorithm based on kernel function is dependent on the kernel function and its parameters，this paper proposes using batchmethods to construct orthonormal basis for reduced dimension approximate subspace instead of clustering and KPCA methods.This improved nonlinear blind source separation algorithm based on batch and kernel feature space is investigated firstly，and then is used to improve the robustness to the variety of the kernel function and its parameters.The simulation results illustrate that the algorithm based on batch ismore robust and is relatively simple and effective.

signal processing；nonlinear blind source separation；kernel function；clustering；batch；resemble degree

TN911.7

A

10.3969／j.issn.1001-893x.2011.10.008

禹华钢（1984—），男，湖南邵东人，分别于2006年和2008年获海军工程大学工学学士学位和工学硕士学位，现为海军工程大学博士研究生，主要研究方向为盲信号处理、无源探测、无线通信；

1001-893X（2011）10-0035-06

2011-06-10；

2011-08-29

国家高技术研究发展计划（863计划）项目（2010AA7010422）

Fundation Item：The National High Technology Research and Development Program（863 Program）of China（2010AA7010422）