基于注意力机制的CRNN文本分类算法

来源 :计算机工程与设计 | 被引量 : 0次 | 上传用户:snmn777
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为增强文本特征的表达能力,提出一种基于注意力机制(Attention)的卷积循环神经网络(CRNN)的文本分类算法。把预训练好的词向量作为输入,使用卷积神经网络(CNN)提取文本向量的特征;利用双向门控循环单元(BiGRU)捕获文本中的词序信息,提取文本的上下文依赖关系并结合Attention机制识别不同特征的重要性;使用Highway网络进行特征优化。将该模型在20Newsgroups、SST-1和SST-2这3个英文语料上进行实验,实验结果表明,该模型有效提高了分类任务的准确率。
其他文献
随着全球人口数量的增加,城市交通的拥堵,煤和石油等传统能源消耗不断加剧,空气污染日渐严重,世界各国都将发展新能源汽车作为重要战略国策,我国大力提倡发展锂离子动力型新
老年心衰是指发生在老年人群的心力衰竭 (heart failure, HF)。如何在成年 HF的基础上讲解好老年 HF是个值得探讨的课题。我们采用独立加比较的教学方法来讲解老年 HF,对于老
目的:探讨宫颈组织不同型别人乳头瘤病毒(HPV)感染与机体局部免疫状态的相关性及对宫颈疾病预后的影响。方法:(1)研究对象选择:选择40例因各种宫颈病变行活检的患者(排除标准
北京地铁剪切型减振器扣件区段大量出现钢轨波磨现象,经调查和测试分析发现:剪切型减振器扣件轨道系统在200~400Hz频段内的轮轨共振效应是引发钢轨波磨的主要原因,而剪切型减
尝试在产品设计准备和酝酿阶段,将可拓创新方法与产品设计流程相结合。建立目标产品的可拓模型,判断功能多样性的相容性。完成基元拓展分析,并实施变换,实现创意发散,凝练创
随着经济全球化的发展和农业生产力水平的提高,农产品的市场竞争越来越激烈。实施农产品品牌战略是提高我国农产品市场竞争力、促进农民增收的必然选择。然而现今我国在农产
<正>随着经济社会的发展,人民生活水平的提高,信用消费已成为百姓生活中无法回避的消费形式之一。信用消费主要是指消费者向银行和其他金融机构借款,用于购买商品和服务的一
由于常规可靠性理论基本假设的局限性,对于具有模糊性的各种系统和问题,用常规可靠性理论和方法对其进行描述是非常困难的,甚至是不可能的.在一些问题上由于不恰当地使用常规
请下载后查看,本文暂不支持在线获取查看简介。 Please download to view, this article does not support online access to view profile.
目的 了解恩施州5岁以下儿童意外死亡原因与特点,探讨干预措施。方法 对恩施州2005-2015年5岁以下儿童意外死亡资料进行回顾性分析。结果 11年间5岁以下儿童意外死亡率平均为