论文部分内容阅读
最近几年来,随着多层前馈脉冲神经网络监督学习研究的快速发展,越来越多的研究成果表明基于脉冲精确定时编码的脉冲神经网络是神经系统处理信息的基础。很多研究者借鉴传统人工神经网络的误差反向传播算法,给出了脉冲神经网络基于梯度下降的学习规则。而且本文旨在解决多层前馈脉冲神经网络监督学习中的两个基本问题:(1)如何定义多脉冲误差函数以及构建脉冲神经网络多脉冲定时误差反向传播算法;(2)如何设计有效的多脉冲定时信息编码方法以实现对具体问题求解的脉冲神经网络监督学习计算模型。本文针对多脉冲精确定时编码信息的特点,定义了新型的多脉冲误差函数,并提出了一种新型的基于多脉冲误差反向传播的多层前馈脉冲神经网络监督学习算法。通过构建输出层和隐含层神经元突触权值的梯度下降学习规则,实现了脉冲神经网络突触权值的自动调整。该算法克服了现存学习算法中对输出层神经元仅能发放一个脉冲的限制,可使网络中所有层的神经元发放多个脉冲,提高了应用脉冲神经网络解决复杂问题的能力。本文通过一组模拟实验展示了多脉冲误差反向传播算法在各种学习情况下,对一系列学习任务的学习能力。首先,通过对单脉冲序列的学习验证了对于给定输入脉冲序列,脉冲神经网络能够训练出一个理想的脉冲序列。其次,通过对多脉冲序列的学习展示了脉冲神经网络能够有效地学习不同的目标脉冲序列。最后,多任务脉冲序列的学习显示了脉冲神经网络对于不同的输入模式能够并行地完成多模式的学习。实验结果表明了该算法能够在误差反向传播学习过程中能够有效地完成不同的学习任务,并实现了对脉冲序列复杂时空模式的学习。本文将多脉冲定时误差反向传播算法应用到非线性模式分类问题,验证该算法对非线性模式分类问题的求解能力。首先,结合线性脉冲序列编码的特点,分别对Fisher Iris数据集和Wisconsin乳腺癌数据集的数据进行编码,使该算法分别在不同学习模式下对Fisher Iris分类以及Wisconsin乳腺癌基准分类问题进行学习。实验表明多脉冲学习的分类准确率比单脉冲学习得到有效地提高。其次,分别对多脉冲神经网络中突触个数、隐藏层神经元个数两个参数进行了分析。实验结果显示突触个数和隐含层神经元个数会影响该算法的学习能力。