论文部分内容阅读
1992年,Zhang Qinghua和Benvensite根据小波变换和Hilbert空间框架理论提出了小波神经网络的概念。小波神经网络(Wavelet Neural Network: WNN)是以小波分析为基础的,较好的克服了以往神经网络结构设计的盲目性,并且保留了小波变换时频局部化特征,因而具有较强的逼近能力、较快的收敛速度并且能有效避免局部极小值。现有研究表明它具有常规人工神经网络所不具备的一些优点,有希望解决传统人工神经网络存在的一些问题。
粒子群优化算法(Particle Swarm Optimization: PSO)是由J.Kennedy和R.C.Eberhart等于1995年开发的一种演化计算技术,来源于对一个简化社会模型的模拟,是一类基于群体智能的启发式全局优化技术。在群体中,每个微粒代表待解决问题的一个候选解,它通过粒子间信息的相互作用发现复杂搜索空间中的最优区域。由于PSO不要求目标函数具有连续性,搜索具有全局性和并行性,被广泛应用于神经网络的参数学习。但由于搜索过程中不能很好保持种群多样性,还是容易出现陷入局部极值、早收敛或停滞现象。为了克服上述不足,研究者相继提出了各种改进策略。Kennedy等研究了不同邻域拓扑结构对PSO算法性能的影响,Mendes又进一步定义了不同的粒子之间的通讯方式,这些改进都大大的提高了粒子群算法性能。
基于PSO算法的小波神经网络在一些领域得到了成功的应用,体现了PSO算法比小波神经网络传统的训练算法(BP算法)的优势。在此基础上,本文对PSO算法提出了一种改进,并将其应用于小波神经网络的训练中。实验结果表明,本文所提出的算法不仅减少了迭代次数,而且精度也得到了较大的提高。
本文主要研究的内容如下:
一、比较深入研究粒子群拓扑结构对算法寻优能力的影响,得到了具有不同邻域结构和迭代算法的各种版本的粒子群改进算法。
二、基于小波神经网络特点,提出一种粒子群训练小波神经网络的种群初始化方法。
三、通过函数仿真实验,比较各种版本的粒子群算法优化小波神经网络的性能。结果表明,各种改进版本的PSO算法的结果都比标准PSO的要好。特别是,具有冯诺依曼邻域结构的PSON算法成功概率高,算法速度快,当考虑替换当前采用其他粒子群作为小波神经网络训练算法。
四、将基于冯诺依曼邻域PSON算法的小波神经网络应用于地震预报,取得较好结果。