【摘 要】
:
经典的LSTM分类模型,一种是利用LSTM最后时刻的输出作为高一级的表示,而另一种是将所有时刻的LSTM输出求平均作为高一级的表示.这两种表示都存在一定的缺陷,第一种缺失了前面
【基金项目】
:
国家自然科学基金资助项目(61379059)
论文部分内容阅读
经典的LSTM分类模型,一种是利用LSTM最后时刻的输出作为高一级的表示,而另一种是将所有时刻的LSTM输出求平均作为高一级的表示.这两种表示都存在一定的缺陷,第一种缺失了前面的输出信息,另一种没有体现每个时刻输出信息的不同重要程度.为了解决此问题,引入Attention机制,对LSTM模型进行改进,设计了LSTM-Attention模型.实验结果表明:LSTM分类模型比传统的机器学习方法分类效果更好,而引入Attention机制后的LSTM模型相比于经典的文本分类模型,分类效果也有了一定程度的提升.
其他文献
【正】 一、供求失衡源于货币供应社会主义社会在公有制基础上实行有计划的商品经济,要求计划工作自觉运用价值规律。价值规律的核心是要求总供应=总需求。总供应即社会商品
【正】 国民经济增长,实质上就是社会资本的扩大再生产。因此,确立经济增长模型,必须以马克思再生产理论为基础,分析我国国民经济增长中的各种数量关系,为我国在本世纪内实现
1测量和分析北京东方振动和噪声技术研究所(以下简称东方所)自1985年成立以来,采用软硬件紧密结合、共同发展的路线,专注于动态测试和信号处理技术,从软件、硬件、算法和系统等
近几年来,广大学生运动兴趣逐年下降,特别是女生下降的幅度更大.运动兴趣下降的原因除了学生生理、心理等因素外,与体育教学的内容、方法也有着密切的关系,针对这一现象,从教
在科技期刊审稿过程中发现,研究生学术论文的合格率低下,退稿率超过来稿总量的80%,普遍存在论文学术含量不高和论文写作水平较低等问题。该文认为,研究生教育机制的灵活性不
我国已进入了必须依靠科技进步和创新推动经济社会发展的历史阶段。在新一轮的发展竞争中,如果不增强区域创新能力,提升产业核心竞争力,河南省不仅会再次丧失国际和国内产业
子模式主成分分析(SpPCA)算法忽略了人脸不同分块应该具有不同的重要性。为了解决此问题.提出一种自适应加权SpPCA单样本人脸识别算法,对人脸图像的不同分块自适应地计算其权重。