一种基于连接敏感度的CNN初始化剪枝方法

来源 :计算机应用与软件 | 被引量 : 1次 | 上传用户:InsidedotNET
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为解决神经网络中参数量冗余,计算量庞大的问题,模型压缩领域正在逐渐兴起,剪枝是其中的一条重要分支。为在初始化阶段得到精简化的网络结构,提出一种基于连接敏感度的卷积层结构剪枝方法。将层中滤波器参数梯度的l_1范数作为连接敏感度衡量标准,同时考虑层间结构关系,实现全局一次剪枝。以数据集CIFAR10和ImageNet300为基准,采用VGG和ResNet系列网络进行测试训练。结果显示,该方法简单、易操作、可去除ResNet110网络中50%以上的计算量及参数,而模型分类的准确度基本不变。
其他文献
在新课程改革的不断发展下,对教师的教学提出了更多的要求,教师在教学过程中,不仅要为学生呈现教材中的基本内容,更要帮助学生进行深入的挖掘和探究。并且,小学数学学习内容
[摘 要] 随着科学技术的发展和社会的进步,在电力信息系统升级维护的过程中可视化技术的应用范围越来越广。随着社会的不断发展,电力已经成为现代社会能源结构中的一个重要组成部分,也是保障社会运行和生产生活的重要能源。在新中国成立以后,党和国家的领导和指挥下,电力事业飞速发展,已经取得了较大的成就,建立了闻名世界的西电东送和三峡工程等一系列保障我国电力运行的基础工程。本文通过介绍可视化技术的概念以及对
提升铁路功率调节器的快速响应特性对于降低系统振荡具有重要作用。以V/V牵引变为基础,采用单相MMC构建了铁路功率调节器以补偿交流电网负序电流。建立了RPC的线性化数学模型