基于自适应评价函数的独立成分分析算法研究

来源 :中国地质大学 中国地质大学(武汉) | 被引量 : 2次 | 上传用户:ab869
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
独立成分分析(ICA)是近十年来伴随着盲源分离(BSS)发展起来的一个统计信号处理的新工具,在信号处理(SP)和神经网络(NN)领域引起了很大的兴趣,目前已成为这些领域的研究热点,受到越来越广泛的关注。本文主要讨论了基于参数与非参数自适应评价函数的ICA算法的基本原理、算法及其稳定性,并基于信息论原理提出了适合于超高斯与亚高斯混合信号,对称与非对称混合信号的参数和非参数自适应ICA算法,给出了算法的稳定性分析。 ICA是对多维数据进行分析和建模的一个重要工具.它的目的是寻找在统计上相互独立的非高斯混合信号的线性变换,使变换后的分离信号在统计上相互独立或尽可能的独立。与传统的信号分解技术如主成分分析(PCA)和奇异值分解(SVD)等的主要区别在于ICA从信号的高阶统计特性出发,从而使分离出的信号不仅不相关而且相互独立.正因为ICA的这些特点,它被广泛应用于生物医学信号处理、语音信号处理、通信信号处理、图像处理、特征提取和数据挖掘等领域。 本文获取信号分离的准则主要从信息论和统计的角度出发,主要包括:信息最大化准则,极小化互信息准则和极大似然估计准则,并且详细推导了这些准则在一定条件下的等价性.本论文提出的基于自然梯度的ICA算法,由于其分离性能与源信号的概率密度函数(PDF)有着直接的关系,于是基于概率密度函数的参数与非参数估计方法提出了一系列自适应的参数和非参数ICA算法。 针对超高斯分布与亚高斯分布的混合源信号的盲信号分离问题,首先提出了一种有效的分离算法—拓广的Infomax算法,采用非线性函数Pearson混合模型和修正的双曲正割函数的平方模型来近似源信号的PDF,弥补了传统ICA算法只能分离超高斯混合源信号的局限性,分别得到了各自的目标函数,然后用自然梯度下降法来优化提出的目标函数,并证明了该算法的渐近稳定性,与原有的Infomax算法相比,所提算法具有更广泛的应用范围。 基于两类参数模型-Gaussain混合密度模型和Pearson系统模型,研究了具有对称分布(包括超高斯分布与亚高斯分布)和非对称分布源混合信号的盲分离问题。Pearson系统是包括非对称分布族的一大类分布,但是它的优点只体现在非对称分布和分布接近于高斯分布的源信号,而对于对称分布的源信号却没有明显优势.为了解决这个问题,即当源信号是对称分布或拥有较强的非高斯性时,引入一个Gaussian混合密度模型。通过这种方法,可以有效的解决以上遇到的问题,而且可以加快算法收敛速度,增强算法的稳定性.运用极大似然方法得到目标函数并推导分离算法,提出了一种有效的基于灵活评价函数的ICA算法,该算法在一定意义上实现了对源信号概率分布的真正全“盲”,与原有的ICA算法相比,本文所提算法具有更广泛应用范围,可适用非对称分布的源信号. 基于一类拓广的非对称广义高斯分布的概率密度函数模型,提出了一种自适应的适用于任意源信号的ICA新算法,该算法只需要一种概率密度函数模型就可以实现对任意源信号的分离,相对于一些基于两类概率密度模型的ICA算法,本算法具有更强的灵活性,并且证明了该算法的渐近稳定性,说明了该算法具有普适性。 利用随机变量概率密度函数非参数估计的Parzen核估计方法来估计源信号的PDF,概率密度函数的Parzen核估计直接由观测信号样本出发去估计分离信号的概率密度函数,实现了对分离信号评价函数的直接估计,从而解决了ICA算法中的一个如何选取估计信号评价函数的基本难题。并据此直接导出估计信号的评价函数,提出了一种基于Parzen核估计的自适应非参数ICA算法。该算法实现了对源信号密度函数的全“盲”要求,它适用于任意分布的源信号:超高斯与亚高斯分布,对称与非对称分布。 基于概率密度非参数估计的广义高斯密度(GGD)核估计和线性ICA神经网络,提出了一种新的非参数ICA算法,同样实现了对源信号分布的全“盲”要求。基于GGD核的非参数密度估计直接由观测信号样本出发,实现了对分离信号评价函数的直接估计,从而在一定程度上解决了ICA算法中如何选取评价函数的问题。给出的算法只用一种灵活的评价函数分离任意的杂系混合信号,最主要的是GGD核可以根据源信号的高阶统计性质自适应的改变窗口的形状以适应不同分布的源信号的要求。 基于概率密度非参数估计的广义k-最近邻(generalizedk-nearestneighbor:GKNN)估计提出了一种非参数自适应ICA算法-GKNN-ICA.GKNN密度估计也是直接从观测信号的样本出发得到源信号PDF的估计,并且具有很好的稳定性,它不需要知道源信号的任何先验信息,更符合实际问题的需要,因而有着广泛的应用价值。 本文还阐述了非线性ICA/BSS模型的基本数学原理、分离算法、算法性能分析及其应用。首先对线性和非线性ICA/BSS的数学模型作了介绍,重点介绍了非线性ICA/BSS解的不确定性。在此基础上对近十年来出现的各种非线性ICA/BSS算法进行简单综述,着重分析了一类可解且应用比较广泛的非线性ICA/BSS模型—后非线性ICA/BSS模型及其分离算法。最后对本文的主要工作、创新点及进一步的工作进行了总结.
其他文献
本文主要围绕基于密度泛函理论的第一原理电子结构计算展开工作,包括算法设计与分析以及数值模拟.在算法设计方面,我们从Kohn-Sham能量极小化问题出发,设计了保正交约束的共轭梯
本文利用有限群的构造知识及Fitting高的特性,解决4pg,p2g2阶有限群的构造.其构造如下:  |G|=4pg时,其中F表示G的Fitting子群,构造如下:G非可解时,有一种情形:G~=A5.G幂零时,此时G有
本文通过对荣华二采区10
从上世纪80年代初神经网络的研究再次复苏并形成热点以来,发展非常迅速,从理论上对它的计算能力、对任意连续映射的逼近能力、学习理论以及动态网络的稳定性分析都取得了丰硕的
随着大数据时代的到来,数据被视为一种新的生产力。大数据不仅仅指单一数据量的增加,数据的结构也变得越来越复杂。这给数据分析与挖掘带来了严峻的挑战,同时激发无数学者致力于
数学符号是理科,尤其是数学工作者进行信息交流、存储的主要载体,但由于OCR的软件技术缺陷,到目前为止计算机仍然不能对其进行识别,这已经成了数学信息输入的瓶颈。 针对这一
在本文中,我们主要讨论了C*-代数中元素的M-P广义逆与B-D广义逆的扰动分析。具体的讲,设A为C*-代数,a∈A,δa∈A作为对a的微小扰动,(-a)=a+δa。那么我们有以下主要结果:  (1)若a
请下载后查看,本文暂不支持在线获取查看简介。 Please download to view, this article does not support online access to view profile.
期刊
到目前为止,求解最小二乘问题的若干方法均建立在二次模型之上。他们将原函数泰勒展式的前三项,即一个二次函数,看作对原函数的近似,并通过求解该近似函数的最小值和对二次函数进
学位