论文部分内容阅读
脉冲神经网络(SNN)作为第三代神经网络(ANN)是神经网络研究的最新产物,相较于第一代和第二代神经网络,SNN更加的符合实际生物神经网络的工作机理,在表达信息与计算处理能力上有巨大的提升。与前两代神经网络采用平均脉冲发放率来对信息进行编码不同,脉冲神经网络在编码过程中加入了时间信息,将脉冲触发的精确时间加入到信息编码与表达中。SNN这种时间编码方式使得其在信息处理、神经元模型以及突触的学习规则都与前两代有较大的差别,研究SNN的内部机制与相关学习算法有较高的理论与实际意义。SNN的独特优势,使得其得到越来越多的人的关注研究,目前在生物与人工智能领域取得了丰硕的研究成果,并在应用于很多领域。SNN的工作机制不难理解,但SNN的学习算法在很大程度上决定了该网络的性能,而在实际的应用中网络要应对多种多样的环境与条件,在复杂条件下的性能效率是SNN应用的关键。为了提高SNN学习算法的效率和鲁棒性,本文主要工作有以下四个方面:1、在研究了Spiking神经元模型和SNN工作机制的基础上,通过分析噪声干扰Spiking神经元的途径,提出一种更加简单的线性动态阈值函数lth r。经过lthr训练后,膜电压在非目标输出时刻远比点火阈值低,且能够保证在目标输出时刻能够迅速达到比点火阈值高。从而大大的提高了SNN的鲁棒性。2、传统的基于突触延迟的学习算法,比如DL-ReSuMe,在学习的过程中只能增加延迟,而不能根据实际优化的需要加快脉冲的传递速度。在本论文中,通过研究大脑神经突触调整规则,提出一种新的基于突触延迟的学习算法即DL-ReSuMe.在EDL-ReSuMe的学习过程中,突触的延迟可以根据实际应用的需要动态的调整(增加或减少)突触延迟的大小。相比于DL-ReSuMe,所提方法具有效率高和准确率高的优点。3、为了同时提高SNN学习算法的鲁棒性和学习的高效性,整合lthr和EDL-ReSuMe算法,提出一种LEDL-ReSuMe学习算法。该算法不仅使所训练的SNN具有更加强大的鲁棒性,同时有效的保证了算法的高效性。4、最后我们分别在模拟数据和实际应用中验证所提方法的有效性,实验结果表明所提方法具有更强的鲁棒性,更高的准确率和更好的学习效率。