机器学习压缩算法研究

来源 :武汉大学 | 被引量 : 0次 | 上传用户:gxmvsgxm
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工智能的快速发展离不开机器学习的研究。在早些年,受限于硬件设备的计算能力,机器学习只能用于处理一些简单的分类和回归问题。而在近年来,随着大型计算机的出现、并行技术的发展、高性能GPU的涌现,人们可以训练部署更大规模的机器学习算法来处理更加复杂的任务,如图像分割、人脸识别、广告推荐等。深度学习作为机器学习的一个重要分支,被广泛应用于图像、视频、语音等相关任务中,并取得了巨大的成就。根据深度学习的特点,人们搭建越来越深的网络来获取更好的识别效果,但这也意味着深度学习模型在取得高的识别效果的同时,也需要巨大的计算资源、内存空间去做支撑。随着移动设备的普及,深度学习模型移植到移动端成为了一个趋势。但由于深度学习模型的计算密集型和存储密集型的特点,在手机、平板等资源受限的移动设备上,无法满足人们对实时性的要求。为此,深度学习模型压缩成为新的研究热点,特别是面向硬件的压缩算法更加备受青睐,为深度学习模型在微电子系统上的落地奠定了基础。本论文的第一个主要工作是提出了强制线性单元(Forced Linear Unit,FLU)深度学习压缩算法,该算法是硬件友好型压缩算法,可以通过调整不同的稀疏结构,如通道级稀疏结构、行级稀疏结构、列级稀疏结构、过滤器级稀疏结构、深度级稀疏结构等,去适应不同的硬件压缩环境,同时该算法是端到端的训练模式,可以更大程度学习模型的稀疏性,得到更高的稀疏率,更有效地利用硬件资源。脉冲神经网络(SNN)作为第三代神经网络,具有比第二代神经网络更加强大的信息容量和生物可塑性,是未来神经网络发展的一个趋势。脉冲神经网络主要被用于处理脉冲信号和与时序相关的任务中,目前在视频和音频方面取得了一定的成就。但大多数脉冲神经网络的固定的结构,限制了脉冲神经网络的应用,进化脉冲神经网络(eSNN)算法被提出用于解决这类问题。大多数的进化脉冲神经网络是以添加策略来调整脉冲神经网络结构,该策略无法充分利用数据之间的相互关系,有进一步的提升空间。为此,本论文的第二个主要工作是提出了SpikeCD进化脉冲神经网络算法,该算法依赖聚类简并策略,通过监督学习和非监督学习相结合的方式,动态调整脉冲神经网络结构。该算法能在实现简单网络结构的同时,取得更加优秀的识别精度,同时该算法具有很强的鲁棒性,对参数不敏感,节约了大量参数优化的时间。
其他文献
上世纪80年代,西方资本市场管制放松,各个公司之间竞争激烈,自此之后股份回购成为了一种控制稳定股价、反恶意收购的常用方式。然而,在我国近年来资本市场持续低迷,受国内外不稳定因素的影响,股价波动剧烈,导致股价和公司的自身实际情况无法得到相应得匹配,投资者却往往通过股价情况来进行投资,因此对一些公司的信心不高,上市公司的管理层们纷纷通过股份回购来使这种情况得到一定的缓解和解决。然而部分公司会在公告中隐
在全球气候变暖的大环境下,频发的高温热浪已逐渐成为严重威胁人类社会与健康的自然灾害之一。目前国内外针对高温热浪风险评价的研究已经取得了一定的进展,但多以大尺度大范
CO2驱油技术能够提高原油采收率,同时实现CO2地质埋存。目前我国部分油田的CO2驱油技术还在试验阶段,未进入大规模应用阶段。本文在调研国内外文献基础上,结合长庆油田地面集
ZnO作为一种宽禁带半导体材料广泛应用于电力电子、光伏组件和光电器件等场合,如用作电路中过压保护装置的ZnO压敏电阻器以及用于提高薄膜硅太阳能电池透光率和光电转换效率
由于钛合金具有高的比强度、高的杨氏模量和卓越的腐蚀抗性,广泛被应用于太空、化工、医疗和军事等方面。纯钛的强度较低,钛合金通过加入贵金属可以改善性能,但是塑性降低。
本文以氯氧铋作为光催化剂的基底,通过对其进行三种方式的改性,达到了提高其光催化性能的目的。并通过一系列测试手段,分析提出了三种改性后的光催化剂性能提高的机理解释。
国家统计局在《“十三五”时期统计改革发展规划纲要》中明确提出,要夯实统计业务基础,提升统计调查质量,加快建设国际统计名录体系;要构建及时维护更新名录信息机制,加强基本单位名录数据采集的规范性和动态维护的及时性,加快建成统一完整、不重不漏、更新及时、信息真实、互惠互享的基本单位名录库。2013年10月党的十八届三中全会决定对商事登记制度进行改革。内蒙古自治区区委、政府积极响应国家政策,把深化商事制度
分布鲁棒优化问题是一种分布信息模糊情况下的随机优化问题,该优化模型可以有效描述带有不确定因素的许多决策问题,如供应链管理、能源、医疗、组合证券投资等,因此受到众多
随着通信工程技术快速发展,人们对电子器件的性能需求越来越高,因此对微波介电陶瓷材料的性能提出了更高的要求。微波介质陶瓷逐渐向更高的工作频率范围(毫米波或者亚毫米波)发展。本文采用传统的固相反应法合成了 BaCu(B_2O_5)掺杂的CaMgGeO_4陶瓷、LiMnPO_4陶瓷以及AMoO_4(A=Ca,Ba)陶瓷,研究了掺杂和烧结工艺对陶瓷烧结行为以及结构和性能的影响并探究了白钨矿结构陶瓷声子特性
中国特色社会主义进入了新时代。新时代教师教育发展的新任务是深入贯彻落实党的十九大精神,造就党和人民满意的高素质专业化创新型教师队伍,落实立德树人根本任务,培养德智体美全面发展的社会主义建设者和接班人,全面提升国民素质和人力资源质量,加快教育现代化、建设教育强国,办好人民满意的教育。随着教师资格证国考后,师范类院校人才的培养正处于日益激烈的竞争环境中。高师院校唯有注重基础性工作的开展,重视教师团队建