基于轻量级计算平台的卷积神经网络研究

来源 :电子科技大学 | 被引量 : 3次 | 上传用户:huweiguangkaka
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
21世纪生活中充斥着海量数据,每天都会产生大量的视频、语音、文本、图像等信息。深度学习很好地解决了挖掘大数据集中隐藏的规律或者特征的问题。在近十年人工智能突飞猛进的发展,很大程度上也是因为深度学习理论和工程研究取得的成果。深度学习成为目前人工智能中最受关注的技术之一。卷积神经网络作为深度学习的核心组成模块,正是该结构的提出和应用才使得深度学习焕发光和热。卷积神经网络省略了人工参与特征提取的过程,而且对一些形变鲁棒性较强。卷积神经的突破性研究成果在一定程度上刺激了当前深度学习以及人工智能的火热发展。但是在卷积神经网络存在一些关键问题,比如基础理论支持不完善,以及网络结构复杂、参数多,对硬件水平要求高。本文的研究内容主要是卷积神经网络在轻量级计算平台上的应用,主要工作如下:首先介绍并分析了国外和国内在卷积神经网络方面最新的研究进展,以及在轻量级计算平台上的应用情况。然后针对卷积神经网络中参数量大、占用的存储空间大的问题,提出了采用基于权值分布特征的聚类算法来压缩神经网络模型。并且在直接迁移压缩后的网络到轻量级计算平台进行了探索,提出了卷积层和全连接层权值分块聚类,以及误差纠正算法。在实验中,压缩算法取得了超越传统算法6%~10%的压缩速率提升,而且能将网络精确度保持在一定的水平。除此之外,也从数学上对提出的算法做了严密的推导,给出了算法的误差上界。针对传统卷积神经网络中滤波器的重复性问题,提出了带参数的级联激活函数PCReLU。该激活函数有两个突出的优点,一是避免了网络中滤波器的线性重复,二是增加了神经元在网络中的活跃性。消除重复性使网络浅层特征提取更加高效,提高活跃性体现在训练中神经元不会“死亡”。最后针对PCReLU提出了优化算法,仿真结果也证明了该算法能加快收敛,使训练过程更平稳。本文最后研究了超分辨率重建与卷积神经网络的结合。为了提高网络的重建性能,采用了反卷积模块来重建输入图像的细节特征;为了减轻网络结构,构建了基于残差网络和反卷积网络的重建模型。仿真结果证明本文算法减轻网络的同时提高重建质量。最后实现了卷积神经网络在手机上的应用。
其他文献
我国各类自然灾害多发,备灾救灾形势十分复杂严峻,在政府主导、社会互助的原则下,在更加重视社会事业和民生的"十二五"期间,红十字会应当抓住有利时机,找准定位,抓住主线,创
福建省体育馆工程是建设部重点实施技术示范工程,在施工中结合工程施工特点和创优目标,研究、开发、应用了四大类共10余项重点实施新技术,完成了推新任务和创优的目标。
始于1999的退耕还林工程是中国政府针对西部生态脆弱区所实施的重大生态工程。工程的实施对当地粮食生产的影响及由此而产生的政策效果是值得研究的问题。该研究利用1996年、
在高校学生社团建立党支部,是当前我国党的建设的时代要求。针对学生社团的管理体制与党支部设置之间存在的一些制约因素,根据十八届三中全会确立的党的建设制度改革的总体部
研究了一种落地铣镗床主轴箱部件的液压平衡系统,通过机械结构方案、液压系统方案的优选,液压系统的设计计算,机电液一体化系统的设计,以及该液压平衡系统的实际应用,验证了
<正> 针灸治病有很多优点,其中腧穴主治的双相性和作用迅速是其主要的特点。在利用头穴治瘫中,原来肌力只有0级或是1级,经针刺后,马上提高到2、3级或者更高。头穴治瘫,不但能
静物摄影是对静止的物体进行艺术性的再认识,再创作的过程,是抒发作者思想情感的一种专业摄影。本文主要对静物摄影的创意、表现形式、构图、用光等方面进行初浅论述。
目前,贺岁档已经成为中国电影市场化最成熟的档期,档期内影片繁多,也备受受众关注,影片有获得高票房的可能。但事实上,贺岁档内电影竞争激烈,各电影的票房和评价是"几家欢乐
<正>室性心动过速(室速)的治疗在过去的十余年进步很快,部分结构性心脏病合并的反复发作性室速通过射频消融技术成功治疗后,不仅改善症状,也同时提高生存率。对于猝死高危患