【摘 要】
:
在深度学习任务中,随机方差衰减梯度法通过降低随机梯度方差,因此,其具有较好的稳定性和较高的计算效率。然而,这类方法在学习过程中均使用恒定的学习率,降低了随机方差衰减梯度法的计算效率。本文基于随机方差衰减梯度法,借鉴动量加速思想并对梯度估计采取加权平均策略,对学习率利用历史梯度信息进行自动调整,提出了自适应随机方差衰减梯度法。基于MNIST和CIFAR-10数据集,验证本文所提出的自适应随机方差衰减
论文部分内容阅读
在深度学习任务中,随机方差衰减梯度法通过降低随机梯度方差,因此,其具有较好的稳定性和较高的计算效率。然而,这类方法在学习过程中均使用恒定的学习率,降低了随机方差衰减梯度法的计算效率。本文基于随机方差衰减梯度法,借鉴动量加速思想并对梯度估计采取加权平均策略,对学习率利用历史梯度信息进行自动调整,提出了自适应随机方差衰减梯度法。基于MNIST和CIFAR-10数据集,验证本文所提出的自适应随机方差衰减梯度法的有效性。实验结果表明,自适应随机方差衰减梯度法在收敛速度和稳定性方面优于随机方差衰减梯度法和随机
其他文献
在视频目标检测中通过光流来传播特征不仅会增加模型的参数量,而且直接将光流应用于高层特征可能无法建立准确的空间对应关系。为此,提出一种基于局部注意的特征对齐模块,该模块不依赖于光流,而是通过在不同帧的局部区域内以逐渐稀疏的步幅确定空间对应关系来传播特征。此外,针对基于固定间隔选择关键帧的方法不能根据目标物体运动快慢动态地调整选择间隔,造成计算量冗余或者检测精度降低的问题,提出基于精度预测动态分配关键
对板状结构中Lamb波的频散和多模现象进行了理论分析,采用有限元仿真方法获取了Lamb波与缺陷作用后的回波信号,对信号进行聚焦接收处理,即在一定距离范围内利用导波频散特性对各个模式信号进行频散补偿,提取补偿后信号的幅值,结果表明当所得信号幅值最大时,所对应的补偿距离等于缺陷与换能器之间的实际距离。利用这一结论,提出了以寻找频散补偿后信号的峰值为核心的导波聚焦接收成像算法,在三维模型板中验证了该成像
为了探索覆膜滴灌条件下犁底层深度对土壤水热运移影响的机理,本文采用土柱试验与模拟相结合的方法,修订了HYDRUS土壤水热运移模型主要参数,对不同犁底层深度(0 cm(CK)、20 cm(PB20)、30 cm(PB30)、40 cm(PB40)、50 cm(PB50))下土壤水热运移规律进行研究。结果表明:模型能够较好模拟不同犁底层深度下土壤水分和温度的分布以及随时间变化的趋势;犁底层可以阻碍水分
由于现实物质空间环境的多样,导致地震及其引发的崩塌、滑坡等灾害具有关联复杂性,严重干扰减灾应急处理过程中的有效判断。因此,提出一种基于多灾害耦合叠加模型的区域地震风险评估方法。首先,根据单一灾害对区域内产生风险值理论模型,推导出多种灾害在同一区域引起的风险耦合叠加模型。其次,以公共安全三角形理论为基础,从致灾因子威胁度、承灾体脆弱度、应急减灾能力等三个维度,构建区域内风险矩阵模型。再次,应用耗散结
针对当前显著性目标检测算法存在的特征缺失和区域一致性差的问题,基于全卷积神经网络提出一种特征混合增强与多损失融合的显著性目标检测算法,该算法包含上下文感知预测模块和特征混合增强模块。首先利用上下文感知预测模块提取图像多尺度特征信息,并且在预测模块中嵌入空间感知模块以进一步提取图像高层语义信息,然后利用特征混合增强模块对预测模块产生的全局特征信息和细节特征信息进行有效地整合,并利用特征聚合模块对整合
视网膜血管分割是眼底图像研究的基础,也是医学分析和诊断中一项重要而具有挑战性的任务。一方面,眼底图像在采集过程中光照不足或者曝光过度,往往导致视网膜血管的边界不清晰。另一方面,位于血管分支末端的微小血管,有时肉眼也无法分辨。针对这些问题,首先使用加权平均值法对眼底图像进行灰度化预处理,替代传统的提取绿色通道方式,使其保留更多有用信息;其次,通过自适应直方图均衡化对眼底图像进行增强处理,突出血管目标
我国锌矿周围农田污染较为严重,筛选对锌抗性强的植物材料是修复锌污染农田的理想方法。采用盆栽实验,以对锌抗性强的长药景天、三七景天、德国景天、松塔景天、胭脂红景天作为研究对象,研究不同浓度外源锌(0、80、160、320、800、1 600、2 000 mg·kg~(-1))对5种景天属植物生长(生物量、株高)的影响,比较分析5种景天属植物耐受重金属锌胁迫能力差异。结果表明:5种景天的生物量、株高均
3D物体检测是计算机视觉的一个重要研究方向,在自动驾驶等领域有着广泛的应用.现有的前沿工作采用端到端的深度学习方法,虽然达到了很好的检测效果但存在着算法复杂度高、计算量大、实时性不够等问题.经过分析发现3D物体检测中的“部分任务”并不适合使用深度学习的方法进行解决,为此提出了一种基于异构方法的3D物体检测方法,该方法在检测过程中同时使用深度学习和传统算法,将检测过程划分为多任务阶段:1)利用深度学
在高光谱图像领域中,为了解决传统卷积神经网络中因部分特征信息损失而影响最终地物分类精度的问题,采用了一种基于2维和3维的混合卷积神经网络的高光谱图像分类方法,主要从空间增强、光谱-空间两方面分别进行了特征提取。首先,从空间增强角度提出一种3维-2维卷积神经网络混合结构,得到增强后的空间信息;其次,从光谱-空间角度利用3维卷积网络结构,得到光谱-空间的综合可分性信息;最后,将所得信息进行特征融合并分
在有限防御资源约束下,地铁安防部门面临着引进人脸抓拍系统构建二级地铁暴恐防御体系,还是升级原安检系统构建增强型一级地铁暴恐防御系统的选择。本文基于暴恐分子决策的目标价值依赖性和安防部门的接警反应时间不对称性,构建了有限资源下地铁暴恐防御策略选择的序贯博弈模型。得出并分析了双方的四种均衡策略,最后结合北京地铁积水潭站早高峰案例,给出了考虑高峰大客流冲击效应的暴恐防御决策建议。研究发现,当增强型安检系