《独立成分分析基本原理与发展.pdf》由会员分享，可在线阅读，更多相关《独立成分分析基本原理与发展.pdf（3页珍藏版）》请在三一文库上搜索。
1、 116 2012 年第 07 期，第 45 卷 通 信 技 术 Vol.45，No.07,2012 总第 247 期 Communications Technology No.247,Totally 独立成分分析基本原理与发展 卜 涛 （四川大学 电气信息学院，四川 成都 610065） 【摘 要】【摘 要】 独立成分分析是为解决盲源分离问题发展起来的一种高效的信号处理方法， 广泛应用于国民 经济发展和国防军事科学的各个领域。系统介绍了独立成分分析的基本模型、假设条件、解的不确定性问 题，总结了目标函数的建立依据，如非高斯性最大化、互信息极小化和极大似然估计等，并简要总结了近 年出现的独立成
2、分分析优化方法，最后对独立成分分析的难点问题和未来可能的发展方向进行了总结和 展望。 【关键词】【关键词】独立成分分析；盲源分离；高阶累积量 【中图分类号】【中图分类号】TN911.23 【文献标识码】【文献标识码】A 【文章编号】【文章编号】1002-0802(2012)07-0116-03 Principle and Development of Independent Component Analysis Principle and Development of Independent Component Analysis BU Tao (School of Electrical Eng
3、ineering and Information, Sichuan University, Chengdu Sichuan 610065, China) 【Abstract】【Abstract】Independent component analysis is an efficient signal processing method widely used in various fields of national economic development and military science, and in particular, for solving the blind sourc
4、e separation problem. The basic model, assumption, uncertain solution, target function, optimization method, difficulties, and future development of this independent componet analysis are described and forecasted in the paper. 【Key words】【Key words】independent component analysis; blind source separa
5、tion; higher-order cumulants 0 引言 独立成分分析(ICA, Independent Component Analysis)是上世纪90年代为解决盲信号处理中的盲 源分离问题而发展起来的一种有效的信号处理方 法，其目的是从随机线性混合的观测信号中恢复出 各源信号。现已广泛应用于通信、金融、遥感、生 物医学、语音处理、地震预报、特征提取、数据挖 掘等领域。 1 ICA 基本模型 无噪 ICA 瞬时线性混合基本模型可表示为： xs= A， （1） 其中，观测信号向量 x m R ，混合矩阵 m AR， 源信号向量s n R 。 由于源向量 s、混合矩阵 A 均未知，仅
6、已知观测 向量 x，易知式（1）解不唯一。做如下假设和约束： 1）源信号 s 各分量均为零均值实随机变量，且 在任何时刻均统计独立。 2）源信号 s 具有非高斯分布，允许最多一个高 斯分布存在。因为高斯信号的混合仍然服从高斯分 布，其二阶以上累积量均为零，不可分。 3）为简单起见，假设观测信号 x 与源信号 s 数 目相等，即混合矩阵为方阵。 ICA 即是为了寻找解混矩阵W： yxs=W =WA ， （2） 使 s 的估计 y 尽可能独立。 由矩阵运算性质易知，独立成分的尺度和排列 顺序具有不确定性,ICA 只能估计出与源信号波形相 同的向量 y。 在实际应用中， 如果需要尺度和排序方 面的信
7、息，可通过相关约束条件实现。 为便于数据处理和算法简化，通常对混合观测 信号进行预处理，中心化和白化，使观测信号具有 零均值单位方差。假设估计向量 y 已具有零均值单 位方差。 收稿日期收稿日期：2012-03-06。 作者简介：作者简介：卜 涛（1983-） ，女，硕士研究生，主要研究方 向为现代信号处理。 117 2 以独立性测度为依据， 确定目标函数 ICA 算法通常包括目标函数和优化方法 2 部分。 目标函数的选取一般基于高阶统计量、信息论及参 数估计理论，决定信号的一致性、渐近方差和鲁棒 性等统计性能，而优化方法的选择决定收敛速度、 内存需求和数值稳定性等算法性能 1。 2.1 非高
8、斯性度量 2.1 非高斯性度量 Hyvarinen 指出 ICA 问题中信号的非高斯性就 是独立性 2。中心极限定理表明，多个独立随机变 量的和趋近于高斯分布，即 ICA 模型中的观测信号 x 应该比统计独立的源信号 s 更接近高斯分布。 这表 明，可以通过信号的非高斯性进行独立性度量 3。 一般采用峭度、负熵进行非高斯性度量，近来 也有学者提出基于偏度的 ICA 方法 4，以下进行简 要介绍。 （1）峭度 kurtosis 峭度是随机变量的四阶累积量，对零均值的随 机变量 y ，其峭度定义为： 422 ( )3kurt yE yEy=。 (3) 若随机变量 y 是高斯变量，则( )0kurt y =。非 高斯变量的峭度通常不为零（峭度为零的非高斯变 量比较少） ，( )0kurt y 为超高斯变量，( )0kurt y 网关的数据走向变成 A-攻击者-网关。