基于多注意力的脉冲卷积神经网络学习方法

来源 :杭州电子科技大学 | 被引量 : 0次 | 上传用户:wendy_83090905
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着卷积结构在脉冲神经网络中的引入,网络对局部特征的提取能力显著增强,脉冲卷积神经网络(Spiking Convolution Neural Network,SCNN)因此成为在神经形态视觉任务中的研究热点。但由于卷积核的局部视野特性与多核卷积带来的通道维度加入,SCNN想要对分布复杂化的脉冲事件做出全局且精准的重要性判断还具有一定的挑战。针对上述问题,本文研究一种多注意力SCNN学习模型,包含由数据驱动的预注意力,以提供全局重要性感知能力;由任务驱动的多维度注意力,以缓解维度复杂化带来的学习压力。具体内容如下:(1)基于数据预处理的SCNN预注意力模型。该模型通过对输入到网络的脉冲数据进行预处理以获取预注意力。首先将获取脉冲事件流重要性的BOE方法改进后用于脉冲图片数据,通过计算脉冲在各样本内被激活的普遍性和在所有样本间被激活的特殊性,从全局视角综合衡量脉冲在空间位置上的不同重要性以获取到预注意力矩阵,然后将该矩阵作用于SCNN的各卷积层,进而解决由卷积局部视野所引起的全局重要性判断能力缺乏的问题。(2)基于任务学习的SCNN多维度注意力模型。该模型通过为SCNN添加注意力模块,帮助网络在任务学习时获取到多维度注意力。首先对脉冲神经网络的时间维度注意力TA-SNN方法加以优化并扩展至其他维度,然后设计多维度注意力模块并加入SCNN中,使网络通过任务学习获取并融合通道、时间与局部二维空间维度的注意力,形成适应SCNN的多维度注意力模型,缓解通道维度参与下的任务学习复杂化问题。(3)基于多注意力的SCNN学习模型。该模型将由数据驱动与任务驱动获得的注意力进行有机结合,从局部与全局、时间与空间各个方面设计注意力融合策略,形成多注意力SCNN学习模型,帮助神经元对散落在复杂维度内的脉冲事件做出全局且精准的重要性判断。最后,本文将上述研究成果应用在多个神经形态视觉任务中,实现了识别精度、收敛速度等方面的显著提升,这验证了本文方法的有效性和高效性。此外,本文通过大量实验深入分析了实现整体性能提升的内在原因。
其他文献
随着城镇化的不断推进,轨道交通行业得到迅速发展,成为城市现代化的标志。当前我国政府正大力推动“新基建”的建设,智慧轨道交通是其中投资规模最大的领域之一,被称为民生建设的“牛鼻子”。由于轨道交通领域资金投入大,单靠政府的财政支出无法满足轨道交通领域的扩张需求,因此PPP模式被引入城市轨道交通领域。然而,由于轨道交通自身有建设周期长、技术复杂性和不确定性等特征,投资方的债务压力和参与风险增大,导致社会
构建了基于经营风险、应急管理风险、乘客风险、公共安全管理风险等的风险评价体系,建立贝叶斯网络模型对新冠疫情下重庆市城市轨道交通运营风险进行了正向、逆向推理,计算了风险节点之间的逆向关联度;对新冠疫情下重庆市城市轨道交通运营风险进行了评价。结果表明:在疫情中后期,由新冠疫情引起的重庆市城市轨道交通运营总风险Z为一般风险;当Z处于高风险的概率P(Z|Z=high)较大时,经营风险、应急管理风险为主要风
本文提出一种车载双目相机安装外参自标定方法。传统的车载相机标定一般依赖特定标定场地、标志物和标定设备,低效、高成本、无法实地在线地标定。一些新的方法:结合SLAM或VIO的外参标定方法基于点、线特征匹配,开放道路纹理低,精度不高;通过匹配高精度地图真值,结合道路元素对标定参数校正,适用于外参动态调优,不适用开放道路、缺乏参考真值的标定需求。针对高精度地图众包采集方式,本文方法首先基于车道提取与跟踪
近年来,不断有研究者借力摄影期刊批判中国风景/风光摄影,指责风光应该走出"唯美"误区。批评有积极的意义,但风景摄影发展有其自身内在动力和社会需求。在我国风景摄影理论落后于实践的现状下,风景摄影的概念廓清和历史脉络梳理是开展风景摄影批判的基石,是当前理论界首要的任务。
证券公司是资本市场的主要参与者,在我国的金融体系中扮演着十分重要的角色。在金融体系的多层次资本市场中,证券公司扮演着多重角色:既是资本市场的温度计、直接融资的服务商、社会财富的管理者,也是证券市场的稳定器、产品和服务创新的“领航者”。当前,我国金融行业的发展进程可谓日新月异,资本市场在上市公司数量和规模、投资者数量和专业程度方面都有了显著提升。近年来,证券行业佣金率持续下滑,收入结构发生了很大变化
学位
离婚案件中的家庭暴力损害赔偿是指在离婚的行为条件下夫妻中一方因实施了家庭暴力,受害者一方可就该侵权行为依法要求过错方承担损害赔偿责任。我国《民法典》出台后,其中第一千零九十一条以“列举加概括”的形式规定了离婚损害赔偿制度的适用情形,当中虽然提到了遭受家庭暴力的婚姻无过错方可以请求离婚损害赔偿,但是涉及的相关法律条文仅有五处,且跟家暴相关的条文表述相对比较模糊。以上现状导致了离婚案件中的家庭暴力损害
《民法典》婚姻家庭编继承了原《婚姻法》所确立的离婚损害赔偿制度,同时对此进行了优化和完善。运用比较分析法,考察法国、日本和韩国离婚损害赔偿制度的相关规定和主要特点,通过域外经验的考察,可为我国相关制度的完善提供借鉴。《民法典》第1091条所规定的“有其他重大过错”的范围,应符合以下三个特征:第一,严重违反家庭义务及家庭伦理。第二,具有违反家庭义务或家庭伦理要求的严重性。第三,具有主观过错。至于离婚
进入经济增速长期放缓的新阶段是在2021年,同时2021年国家的货币政策处于宽松的状态,是与经济全球化相违背的“逆全球化”,加之全球都处于疫情的冲击的状态下,这些因素都将影响全球经济的走势。即使如此,高净值人群的资产配置逻辑和中长期人生规划也并没有因此发生改变,原因是这类群体人员始终相信我国的经济将会领先全球逐渐的稳步复苏,全球的资本追逐仍会亲赖于中国资产,这将是一个长期的发展趋势。因此,高净值客