【摘 要】
:
针对卷积神经网络模型巨大的参数量和计算量而导致其实际应用时难度较大的问题,提出了一种基于注意力机制与动态稀疏约束的模型压缩方法。该算法首先借助SENet(Squeeze and excitation networks,SENet)模块(可称为SE模块)评估出网络中各个通道的重要性,并施加稀疏正则化;然后提出一种网络稀疏度的自适应惩罚权重,根据模型学习效果,动态调整权重,将其添加到最终的训练目标上,
【基金项目】
:
陕西省重点研发计划项目(2021GY-022); 西安市科技计划项目(2019216514GXRC001CG002-GXYD1.7);
论文部分内容阅读
针对卷积神经网络模型巨大的参数量和计算量而导致其实际应用时难度较大的问题,提出了一种基于注意力机制与动态稀疏约束的模型压缩方法。该算法首先借助SENet(Squeeze and excitation networks,SENet)模块(可称为SE模块)评估出网络中各个通道的重要性,并施加稀疏正则化;然后提出一种网络稀疏度的自适应惩罚权重,根据模型学习效果,动态调整权重,将其添加到最终的训练目标上,实现模型动态压缩。最后,通过实验来验证所提出的模型压缩方法,在经典的多分类数据集CIFAR-10上进行实验,证明了本文所提出的基于注意力机制与动态稀疏约束的模型压缩方法可降低网络的冗余度,使网络模型参数量减少43.97%,计算量减少82.94%,而分类准确率只比原始VGG16模型下降0.04%。随后又将提出的模型压缩方法应用到杂草检测任务中,在甜菜与杂草数据集上进行实验,实验结果表明,剪枝模型相较于未剪枝模型的模型参数量减少41.26%,计算量减少45.77%,而平均检测精度均值只减少了0.91%,证明了该方法在杂草检测方面效果较好。
其他文献
2020年6月8日,习近平总书记赴宁夏吴忠市利通区金星镇金花园社区,了解社区民族团结、社区创建、为民服务工作情况。习近平总书记指出:“基层工作非常重要,共和国的大厦就靠我们基层撑着。”金花园社区曾荣获“全国民族团结进步模范集体”,金花园社区既是民族团结进步工作的成功典型,也是各民族和睦相处的生动缩影。民族地区创新社会治理是保障和改善少数民族群众的民生,促进公平正义,增强民族地区发展活力,提高民族地
<正>首部英文全译本关于金庸作品英译本,最近又有新的进展,令人感奋!金庸武侠小说《射雕英雄传》英译本第一卷,2018年2月22日由英国麦克莱霍斯出版社(Mac Lehose Press)全球发行出版。这是该书首次被译成英文出版。英文版《射雕英雄传》先在伦敦书店内销售。这本四百多页的译作的英文名为The Legend of the Condor Heroes,封面正中画有一只展开的黑色翅膀,上方印着
目的:探讨和研究中医康复理论应用在康复科患者术后管理的效果和可行性。方法:选择2018年12月—2021年12月的80例综合康复科患者为研究对象,随机均分为对照组与观察组,对照组采用常规康复管理模式进行干预,观察组采用中医康复理论参与的康复管理模式进行干预,比较两组患者的管理效果。结果:观察组患者的神经功能评分、生活质量评分、护理满意度评分等,均显著高于对照组(P<0.05)。观察组患者的护理效果
农产品品牌的建立,是推动我国广大农村地区实现农业现代化、带动地方经济发展的重要一环,也是农业高质量发展的重要保障。近年来,我国地理标志农产品区域品牌的建设工作也越来越受到人们的关注和重视,2016年中央一号文件“品牌”一词被提及,六年以来,每一年的中央一号文件中都会有与“品牌”相关的事宜。例如,2020年的中央一号文件就明确提出要加快我国绿色食品的打造,通过采取注册、统一登记、认定、监管等措施,树
虚拟现实(Virtua Reality,VR)技术被列入国家数字经济重点产业,逐渐融入各领域,也为电商领域带来新的活力。但VR购物情景中的沉浸式体验如何影响消费者购买意愿的研究尚不充分,本文围绕VR技术电子商务场景,探究消费者购买意愿的影响因素及机制。基于刺激-机体-反应(Stimulus-Organism-Response,SOR)模型,本文构建了一个考虑VR技术的情景及使用特征和心流体验对消费
习近平总书记在19届五中全会中指出,要把发展经济着力点放在实体经济上,加快推动数字化转型发展,推动数字经济与实体经济深度融合。银行业作为金融行业主体,是推动国家实现数字化转型促进经济发展的重要角色,而外资银行作为我国银行业重要组成部分,研究其数字化转型能力提高对绩效的影响机制及路径有利于丰富我国银行业数字化转型经验,提升银行业总体竞争力,推动我国金融行业多样化发展。首先本文通过理论机制和现状进行定
目的:探讨基于中医药理念的健康管理在内科患者居家康复中的应用效果。方法:选择2019年1月—2021年1月医院内科收治的60例患者为研究对象,分为对照组和观察组,每组30例。对照组采用常规管理,观察组增加中医药健康管理服务,两组均接受3个月的干预,并对纳入患者实施干预后的1年进行有效的随访。比较两组患者对健康干预的依从性,比较患者在出院前、出院3个月后的自我健康管理及自我照护能力评分,统计患者对干
在无线联邦学习(FL)的架构中,用户端与服务器端之间需要持续交换模型参数数据来实现模型的更新,因此会对用户端造成较大的通信开销和功率消耗。目前已经有多种通过数据量化以及数据稀疏化来降低通信开销的方法。为了进一步降低通信开销,提出了一种基于1-bit压缩感知的无线FL算法。在无线FL架构的上行链路中,这种算法首先在用户端记录其本地模型数据的更新参数,包括更新幅值和趋势;接着对幅值和趋势信息进行稀疏化