论文部分内容阅读
神经网络具有很强的非线性逼近能力及自学习、自适应能力,有较强的容错性,因而能够很好地跟踪捕获对象受各种不确定因素影响而发生的变化及变化趋势,能够很好的反映复杂过程的内部机理,是近年来研究和应用较多的一种智能控制方法。但在实际应用时,由于神经网络自身存在训练时间长、收敛速度慢以及局部极小等问题而限制了其应用。
小波分析是80年代中期发展起来的一门新技术,是数学理论中调和分析技术发展的最新成果,被认为是工具和方法上的重大突破,它在时域和频域同时具有良好的局部化性能,有一个灵活可变的时间一频率窗。由小波重构理论知,任何一个能量有限的信号都可被满足允许性的小波基函数线性表出。
为此,将小波分析理论引入神经网络,构成小波神经网络。小波神经网络由Zhang Qinghua和Benveniste于1992年首先提出。其基本思想是将常规单隐层神经网络中的Sigmoid函数用小波函数来代替,相应的输入层到隐含层的权值及隐含层阈值分别由小波函数的伸缩参数与平移参数代替,而输出层为线性神经元,它将隐含层的小波伸缩系线性叠加形成输出,构成了新的前馈型神经网络模型。小波神经网络融合了小波分析良好的时频局部化特性和神经网络的优点,较好的克服了以往神经网络结构设计的盲目性,具有较强的逼近能力、收敛速度快并且能有效避免局部极小值。
小波神经网络的传统算法是梯度下降法(BP算法),它存在着收敛速度慢且有可能陷入局部极值、全局搜索能力弱等缺点并且直接将此方法应用于高维小波网络的学习时容易产生“维数灾”使学习结果不太令人满意。
粒子群优化算法(Particle Swarm Optimization,PSO)是一类基于群体智能的启发式全局优化技术。群体中的每个微粒代表待解决问题的一个候选解,它通过粒子间信息的相互作用发现复杂搜索空间中的最优区域。PSO的优势在于简单容易实现而又功能强大,PSO是国际演化计算界研究的热点。尽管粒子群优化算法发展十年多,但无论是理论还是实践都尚未成熟。由于PSO的搜索具有全局性和并行性,被广泛应用于神经网络的参数学习中。
本文研究的内容包括如下:
一、探讨了离散小波网络、连续小波网络参数初始化、以及学习算法(BP),并做了相应实验,检验其效果并发现了不足之处。
二、对PSO算法深入探究,了解算法特点以及其参数设置的依据。
三、针对粒子群算法具有不易陷入局部极小、收敛速度快等特点,将其应用于一维和二维连续小波神经网络参数学习。并根据小波神经网络实际情况,对粒子群算法参数设置进行改进。
四、将基于粒子群的小波网络应用于函数仿真试验,并与传统的BP算法进行比较。试验表明,该算法减少迭代次数、提高收敛精度,是小波网络的有效训练算法。