Spiking卷积神经网络模型研究及应用

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:cdl872
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
作为第三代人工神经网络的脉冲神经网络(Spiking neural network,SNN)通过接收、发送脉冲来传输信息,在生物学上比传统人工神经网络更真实,能更好地模仿生物神经元的工作原理,因而在类脑计算相关领域备受关注。当前SNN主要结合非监督学习、脉冲时间相关可塑性(Spike timing dependent plasticity,STDP)规则应用于信号处理、图像分类和语音识别等领域,与传统的人工神经网络相比,SNN在信息表达和计算能力上都更具优势。然而,现有的SNN网络结构都相对较浅,在提高计算能力的同时很难保证结果的优越性。因此,本文在研究Spiking神经元模型、STDP学习规则以及稀疏编码等相关特性的基础上,结合卷积神经网络模型中的卷积、池化等操作和反向传播算法,提出了基于稀疏独立局部网络的脉冲卷积神经网络(Spiking convolution neural network,Spiking-CNN)模型以及基于反向传播STDP(Back propagation STDP,BP-STDP)学习算法的多层Spiking-CNN模型。本文主要研究内容包括:(1)当前SNN的训练主要利用STDP学习规则和离线训练转换两种方式,基于STDP规则的训练算法较为单一,而离线训练后转换为SNN相比于传统人工神经网络并无优势。因此,本文提出一种基于稀疏独立局部网络的Spiking-CNN模型,首先通过稀疏独立局部网络训练Spiking卷积核,然后通过Spiking卷积池化操作提取输入数据特征,并利用基于概率漏积分发放Spiking神经元模型的特征发现层筛选特征,最终通过全连接层实现分类。实验表明提出的模型在处理图像分类问题时相比于现有的单层SNN模型具有更好的分类结果且对加性噪声具有较强的鲁棒性。(2)为了克服具有复杂网络结构的SNN模型难以训练的问题,提出一种基于BP-STDP算法的多层Spiking-CNN模型。首先利用STDP表示学习算法进行多层Spiking卷积核训练得到多个卷积核,然后在卷积池化操作之后借助BP-STDP算法进行全连接层训练。在全连接层为了避免Spiking神经元进入“假死”状态,提出一种权重归一化方法对训练权重进行归一化操作,最终通过BP-STDP算法在全连接层实现分类。实验结果表明提出的多层Spiking-CNN模型在图像分类问题上能够取得良好性能,与现有的多层SNN模型进行对比,新模型能够得到更优的分类结果且对加性噪声具有较强的鲁棒性。
其他文献
分析了登封市颍阳镇的空间发展格局,从功能、空间和风貌三方面探究其发展,并结合颍阳镇良好的区位优势和自身丰富的资源,进行发展动力解析。在此基础上提出外生动力引导下以
针对基于三维虚拟技术的航空港外观系统设计方法以虚拟现实技术获取的航空港外观数据实施外观系统设计,所构建航空港的外观模型粗糙,提出新航空港外观VI重建系统设计方法。基
创新创业教育是一项系统而又复杂的工程,需要高校从多个维度进行统筹。通过对江苏省25所高校的调查研究发现:学生对高职高专、原“985工程”“211工程”高校创新创业教育支持
通过对我国医务人员科研能力现状的综合分析,得出目前三甲级医院医务人员科学研究的主要方向及科研的总体发展趋势,总结出妨碍和限制科研工作者科研能力发展的关键问题所在,
铁素体不锈钢具有导热系数大、膨胀系数小、抗氧化性好、抗应力腐蚀优良等特点,但在拉伸和深冲时会出现表面皱折,目前研究结果表明,出现皱折的铁素体不锈钢冷轧板厚度方向的中心区域易出现粗晶带。因此本文以430铁素体不锈钢为研究对象,以获得均匀的热变形组织为目的,分别进行了热模拟实验和热轧实验,重点研究了热变形过程中的压下量、变形道次、变形温度和变形速率等工艺参数对430铁素体不锈钢组织均匀性的影响。实验过
目的:探讨国产可膨胀性阴茎假体的研制及治疗勃起功能障碍(ED)的有效性与安全性.方法:根据我国男性生殖系统解剖生理特点,研制国产的可膨胀性阴茎假体,由改造的液泵阀、储液
植物磨料磨损是辊式制粉工业中磨辊磨损失效的主要原因,热处理工艺是磨辊材料(低铬白口铁)表面硬度强化的一般手段。该文选用与辊式制粉工况相似的磨损试验机进行试验,利用正交
我国对煤炭资源的需求在能源消费中占比大且居于主要地位的局面在相当长时期内不会改变,而煤炭资源主要集中分布在陕、蒙、晋等西北地区,东南沿海地区为主要煤炭需求区域,因
在原始含油饱和度恢复基础上,根据含油孔隙度(原始含油饱和度与孔隙度乘积)与单井采油强度的关系,建立砾岩致密油藏地质"甜点"分级标准;结合储层孔隙度及原始含油饱和度测井
近年来衣物出租、洗涤业发展迅速,为人们的日常生活提供了方便,同时也带来了一些不利于健康的因素,直接或间接地影响到人们的生活质量.为了解济阳县城区衣物出租、洗涤店卫生