【摘 要】
：
近年以来,随着人工智能应用的普及,作为其最核心技术之一的深度学习引起了学术界和工业界的广泛关注.无论是在计算机视觉、自动驾驶领域,还是自然语言处理、语音识别领域,都
论文部分内容阅读
近年以来,随着人工智能应用的普及,作为其最核心技术之一的深度学习引起了学术界和工业界的广泛关注.无论是在计算机视觉、自动驾驶领域,还是自然语言处理、语音识别领域,都存在着深度学习模型的身影.深度学习模型具有非常强大的拟合能力,但伴随着这种能力而来的是其往往具有较为庞大的参数量以及大量的计算资源消耗.而大量的研究表明深度学习模型具有稀疏性,目前已经有许多论文利用稀疏正则方法或结构稀疏正则方法来解决这些问题,后者因为模型更利于在此基础上进行结构化剪枝,是目前的研究热点.本文主要利用深度学习模型的稀疏性,结合批正则化层的向量参数,建立结构稀疏深度学习的原始L0正则模型,并在此基础上设计求解算法.本文首先介绍深度学习的基础知识,阐述深度学习目前面对的挑战,并对其稀疏性进行分析.然后介绍目前比较流行的结构稀疏模型,对每个模型的稀疏化方法进行详细分析,给出求解算法和相应的算法框架,并对其优缺点进行了评述.以此为基础,我们建立了基于L0范数的结构稀疏模型,讨论了模型的重要理论,并依据模型性质提出了L0-PG算法对其进行求解.最后数值实验部分将我们设计的L0-PG算法和已有的模型和算法进行比较,从预测精度、计算时间等维度出发设置对比实验.在选取的不同数据集下,我们的模型和算法在达到同等或者更高测试精度的同时,均实现了30%以上的运算速度提升.
其他文献
随着互联网的飞速发展,在线上社交网站冲浪已经成为人们生活方式的一部分。但是,异常用户在社交网络散布虚假消息、盗取用户信息、控制舆论导向等种种恶意行为也给社交网络的
威廉·福克纳是美国最富影响力的现代主义作家之一,他的约克纳帕塔法世系小说向人们展示了处在新旧交替时期美国南方社会的历史文化风貌。本文从社会历史文化视角研究福克纳
光纤激光器凭借良好的光束质量、高效的激光输出、体积小、不需要水冷散热以及可实现全光纤化结构的特点,在光通信、光传感、测量及材料处理等领域具有广泛的应用前景和实用价值。本文针对目前具有广泛应用的掺镱光纤激光器(ytterbium-doped fiber lasers,YDFLs),以研制高性能的新型光纤滤波器为切入点,开展新型YDFLs的理论和实验研究,基于保偏光纤、保偏光子晶体光纤Sagnac光纤
无功补偿是城市轨道交通供电系统设计的重要环节,如果城市轨道交通供电系统的功率因数偏低,达不到电力部门的要求,城市轨道交通运营企业将承担巨额罚款。随着PWM整流机组在城轨再生制动能量回馈领域的应用和推广,本文提出将牵引变电所内用于再生制动能量回馈的PWM整流机组作为无功补偿装置,对中压网络进行分散式无功补偿,实现一机多用,并采用粒子群算法对中压网络进行无功优化,同时开发了可用于城市轨道交通供电系统交
经过过去几十年深刻的体制改革与经济转型发展,如今中国的经济总量稳定的保持在世界前沿水平。但是我们应当看到的是,经济高速发展直接导致城市用地规模向周边地区的迅速扩张
随着大数据和人工智能时代的来临,利用机器学习、数据挖掘等技术推动中医的传承与发展已成为迫切需求。当前,中医存在两个重要研究方向:核心处方分析和分子机理分析。核心处方分析面向临床数据,可从个性化诊疗方案中挖掘出治疗疾病的潜在核心处方,指导临床用药。分子机理分析则面向分子靶点,可从微观角度探究疾病发生发展、药物治疗疾病的分子机制。但当前两项研究往往分开进行,缺少将两者有效结合的研究方法,在分析出核心处
目的:研究何首乌对阿尔茨海默病模型大鼠学习记忆能力及双侧海马区miRNA-101表达的影响,并探讨其作用机制。方法:将120只SD大鼠随机分为4组,每组30只,分别命名为假手术组、模
实施创新驱动发展战略是我国发展经济的重要举措。企业作为创新主体,对于创新发展战略的实施和经济发展目标的实现具有至关重要的作用。科技型中小企业以技术为依托,是提供创新动能的重要力量。而其在技术创新活动开展过程中面临着资金获取以及风险承担方面的现实约束,因此在创新方面表现不佳。为激励企业进行技术创新,我国形成了以企业所得税优惠为主的税收激励体系。研究企业所得税优惠对科技型中小企业技术创新投入的影响效应
准噶尔盆地为典型的含油气盆地,乌尔禾—风南地区是近年来重点勘探区。从勘探现状来看,该区原油来源一直存在争议。本次研究基于石油地质学与油气地球化学的理论,利用油源对
渤海海域的稠油资源储量丰富,但水驱采收率仅18%,在绥中36-1油田开展的聚合物驱现场试验表明能够提高采收率6%左右,展现出稠油油藏聚合物驱提高采收率的巨大价值。目前实行聚