【摘 要】
：
针对目前语义角色标注方法存在的由于神经网络层数增加导致梯度爆炸、梯度消失而带来的深层网络训练困难和训练不稳定问题,先后通过在层与层之间加入Layer Normalization进行
【基金项目】
：
山西省重点研发计划(指南)基金项目(201703D121025),山西省回国留学人员科研基金项目(2017-093)
论文部分内容阅读
针对目前语义角色标注方法存在的由于神经网络层数增加导致梯度爆炸、梯度消失而带来的深层网络训练困难和训练不稳定问题,先后通过在层与层之间加入Layer Normalization进行归一化处理,引入Highway Networks优化的深层双向长短期记忆神经网络来优化模型中的递归子层等方法,加速模型收敛速度,增强网络稳定性及模型表达能力。实验结果表明,该方法能够有效解决随神经网络层数的加深,梯度信息回流受阻造成的网络模型训练困难及不稳定问题。
其他文献
本文以东源县农贸市场随机抽取的菜心为材料,依据NY/T761-2008《蔬菜和水果中有机磷、有机氯、拟除虫菊酯和氨基甲酸酯类农药多残留的测定》方法一,测定菜心中乐果的残留量。
近年来,随着社会的不断发展以及经济的进步,我国加强了对高校金融贷款的关注度,这是现阶段我国各大院校提升自身综合实力和实现跨越式发展的重要资金筹措手段。然而在运作的
当前,高等职业院校迎来了信息化教学改革的新时期,信息化教学已经作为了重要的建设内容写入了《教育信息化＂十三五＂规划》。高职院校教师队伍建设中的培养效果不佳和兼职教师在
在现代信息社会,传统零售商逐渐向线上零售平台转型,在线上零售和线下零售相互融合的情况下,基于企业和顾客不同的心理研究发现,顾客对线上信息的不确定性风险和服务效率等比
近年来智能科技和无线技术不断发展,我国智能手机受众以学生为主越来越多,随处覆盖的无线网,使人们对智能手机的使用越来越方便,为了有效地利用这一技术发展和生活方式的改变
随着高等教育的蓬勃发展,女大学生在高校中比例逐年上升,心理健康问题也越来越突出,而因心理障碍导致的非正常死亡也呈上升趋势。因此,深入了解女大学生心理障碍产生的原因,
近年来,我国经济发展水平逐渐提高,在进行水利等工程的设计和修建时,越来越注重其生态效益,旨在通过工程建设修复改善我国当前的一些生态问题,为了更好地完成河道治理工作,逐
文章以已实施财政部2018年12月发布的新租赁准则的部分A+H股上市公司的资料为依据作研究,认为新租赁准则的实施对经营租赁的承租人产生较大影响,经营性租赁确认入表将增加承
贸易便利化是影响其区域内贸易最重要的因素,而国内外对CAFTA贸易便利化的水平分析、结构分析的系统研究亟待深化。通过文献梳理,建立可以进行横向比较的贸易便利化指数测算
<正>胡蜂4月从冬眠中苏醒,夏季较活跃。胡蜂的毒性较强,可致严重的过敏性反应而致命。1胡蜂的毒性胡蜂又名马蜂、黄蜂、牛角蜂,靠捕食农业害虫、蜜蜂、蚕类为生。我国已记载