基于问答文本的评价属性抽取关键技术研究

来源 :东南大学 | 被引量 : 0次 | 上传用户:liangwang112
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着移动互联网的快速发展以及“互联网+”国家战略的深入实施,电子商务迎来了高速发展的黄金时代,针对电商平台用户评论文本的情感信息抽取技术逐渐成为自然语言处理领域中的研究热点。已有的研究主要针对非交互式的传统用户评论文本开展评价属性(简称“属性”)抽取研究。与以往研究不同,本文针对一种新颖的问答式评论文本开展属性抽取方法研究。该新型问答式评论文本中,答案通常是由随机邀请有过购买行为的用户提供。因而,相较于传统的非交互式评论文本,问答式评论文本可以有效缓解大量虚假评论文本的产生。因此,本文基于问答文本的评价属性抽取方法研究不仅丰富了情感分析领域的研究内容从而具有重要的学术价值,而且能有效缓解电商平台普遍存在虚假评论的影响,从而具有非常重要的应用价值。本文主要围绕属性抽取(Aspect Extraction)研究中的两个关键子任务展开研究工作:1)面向问答式评论文本的属性类别分类任务(Aspect Category Classification,ACC):该任务旨在识别出给定的问答式评论文本中所涉及的所有有效属性类别;2)面向问答式评论文本的属性描述语抽取任务(Aspect Term Extraction,ATE):该任务旨在抽取出给定的问答式评论文本中所有出现的有效属性描述语。具体来说,本文的研究内容主要包括以下三个方面:首先,本文首次将面向问答式评论文本的属性类别分类任务定义为多标签分类问题,并针对在多标签属性类别分类任务中问答式评论文本所带来的短文本表述不完整、数据稀疏以及问答语义匹配等问题,本文提出了一种基于双向注意力机制的多标签属性类别分类方法。该方法包括三个步骤:首先引入BERT预训练语言模型来捕捉上下文的语义信息并生成上下文相关的词向量表示,同时采用两种不同的策略进行词向量融合;其次构建一个双向注意力网络来捕捉问题文本和答案文本之间的匹配信息,提升模型对属性类别相关信息的捕获能力;最后使用Sigmoid函数对分类结果进行解码,并辅以二进制交叉熵损失函数实现属性类别的多标签分类。实验结果表明,在问答式评论文本的语料集上,该方法在处理多标签属性类别分类任务时较其他基准系统能显著提升属性类别分类的性能。其次,针对问答式评论文本长度较短导致的数据稀疏以及歧义等问题和属性描述顺序混乱或“答非所问”所带来的问答语义匹配和无效属性噪声等问题,本文提出了一种基于多层图注意力神经网络的属性描述语抽取方法。该方法包含三个步骤:首先使用BERT模型分别对问题文本和答案文本进行编码,通过引入外部信息以及融合多层的词向量表示,得到语义扩充后的上下文相关文本表示;然后构建一个多层图注意力神经网络来学习问答文本内部的上下文信息和问答之间的匹配信息,通过建立字符之间的直接联系并进行注意力权重的计算,在捕捉属性描述语之间相关性的同时过滤属性噪声信息;最后使用CRF模型学习标注标签之间的依赖和约束关系,进一步提升属性描述语抽取的性能。实验结果表明,本文提出的基于多层图注意力神经网络的属性描述语抽取方法较其他基准实验有显著的性能提升。最后,为了充分有效地利用问答文本属性类别分类任务和属性描述语抽取任务之间的相关性,本文提出一种基于多任务联合学习的属性类别及描述语联合抽取方法,通过共享任务之间的相关信息来提升两个任务各自的性能。具体来说,该方法包含三个步骤:首先通过共享BERT模型以及词向量融合过程中权重矩阵来学习两个任务共同的文本表示模型;其次,针对问答文本属性描述语抽取任务,使用多层图注意力神经网络捕捉属性描述语抽取中所需要的问答文本上下文信息和问答匹配信息,生成融合图注意力信息的词向量表示并使用CRF层对标注序列进行解码;最后,针对属性类别分类任务,使用双向注意力神经网络对问答文本之间的匹配关系进行建模,共享和融合属性描述语抽取任务中学习到的词向量表示,进而实现属性类别的多标签分类。实验结果表明,本文提出的多任务联合学习方法能进一步提升问答文本属性描述语抽取任务和属性类别分类任务各自的性能。
其他文献
近年来,知识图谱规模迅速扩大,实体数量飞速增长,不同知识图谱之间实体匹配的重要性日益体现。实体匹配的质量依赖于知识图谱中实体的上下文,主要分为关系三元组、属性三元组和实体文本描述等三类。现有的相关工作只同时对其中的一类或两类实体上下文进行建模,没有同时对三类实体上下文进行建模。除此之外,现有相关工作中虽然有同时建模两类实体上下文,但是其中大部分并未平等对待这些实体上下文,并且对于多类信息不充分的实
中国人口老龄化等问题的加剧,给监护和安防等领域带来了巨大挑战。由于视频监控的逐渐普及化、低廉化以及视频的可视化、易存储等优点,它迅速成为替代人工管理的重要手段。如何高效地处理得到的视频数据,使其在满足特定场合的人体行为检测的精度要求的同时,又能兼顾效率,尽量满足实时性需求,一直是算法研究人员不断追求的目标。目前大多数的视频处理任务都基于特定场合,行为检测和识别的种类相对固定且较为单一。当传统方法利
在软件工程领域,软件开发的质量、效率和成本是软件开发过程中关注的三个核心问题。进入二十一世纪以来,随着互联网的普及,信息技术呈现爆炸性地增长,软件系统的规模和复杂性也在不断增加,软件开发的效率问题也越来越受到关注。为了提高开发的效率,许多软件开发的技术被陆续提出,开发者们希望通过代码搜索等技术手段实现高效的代码重用。因此代码搜索技术的研究有着重要的意义。然而,现有的代码搜索技术在表示代码时并不全面
随着开发语言和各种软件社区的发展,API的数量急剧上升。为了降低API的使用难度,提高API使用效率,研究人员提出了很多种API推荐方法,这些推荐方法可以帮助编程人员更加高效地使用API。随着推荐技术的不断增加,选择合适的推荐方法对编程人员来说尤为重要。API推荐结果的评估可以为编程人员选择推荐技术提供依据,目前已有的评估方法研究较少,且主要关注于推荐结果的正确性,缺乏对推荐结果质量的关注,难以完
数据世系用于描述数据产生、演化流程和数据源信息,在数据质量评估、数据溯源、信息安全领域发挥着日益重要的作用。世系工作流是数据世系的主要描述结构,随着人们对数据质量、溯源要求的日益提高,对世系工作流进行共享的需求愈加迫切,世系工作流中包含数据产生关键操作、流程等敏感信息,对其进行共享发布不可避免地带来隐私泄露问题。本文针对已有世系工作流结构隐私保护方法存在的不足,研究能够有效维持工作流时序约束和拓扑
视频拼接作为实现全景视频的重要手段,在移动设备拍摄能力越来越强的时代里,能够将移动设备拍摄的视频轻松拼接成稳定的具有大视野的全景视频可以很大程度上增强人们的影音使用体验。但是由于移动设备不是固定的,拍摄出的视频天然的会带有剧烈的抖动以及较大的视差,这些因素都会影响最后拼接的效果。本文提出了一个适合手持设备拍摄的带有抖动的视频拼接的联合视频防抖和视频拼接的拼接算法,该算法可以有效的去除抖动、处理重影
近年来,作为一种新型的软件开发方式,群智化软件开发已经受到了学术界和工业界的广泛关注。相比于传统的软件开发,群智化软件开发可以最大限度地利用世界各地的开发人员资源来完成复杂的开发任务,能够有效降低开发成本,提高开发效率。但是,由于群智化平台中任务众多且复杂,不准确的任务匹配会影响任务完成的进度和质量,因此,研究开发者和任务的匹配问题对于群智化软件开发模式来说非常重要。推荐技术作为传统领域解决信息过
文本生成图像(Text-to-image Generation)旨在基于自然语言描述的文本生成相关图像,实现从文本模态到图像模态的转化,并保持语义。文本生成图像对于新闻自动配图,用户需求画像等图像生成应用具有重要意义。文本生成图像研究,作为一个交叉问题,涉及到自然语言理解和图像生成两个热门研究领域。该问题的研究也为文本嵌入和生成模型技术提供支撑。当前的文本描述通常是一个描述物体属性的说明性语句,比
随着互联网的迅速普及和数字信息的爆炸式增长,各种海量化、碎片化的内容不断涌现,如何从这些异构驳杂的数据中检索有效信息对于搜索引擎挑战巨大。以网页链接为中心的传统搜索引擎通过关键字匹配的方式从互联网中检索信息,然后返回给用户相关链接。这种方式不能准确理解用户搜索意图,且返回的结果过于单一,包含的语义信息不够丰富,需要用户做多次检索。为了改善这种搜索模式的弊端,基于知识的搜索引擎已引起了业界的广泛关注
临床路径(Clinical Pathway)是针对某种特定疾病建立的标准化诊疗模式,旨在规范临床诊疗流程。头痛是一种较为常见的神经内科临床症状,然而我国目前面临着头痛相关医学人才匮乏以及头痛临床诊断路径不够完善等问题。现阶段,国内头痛相关临床路径主要参考国际头痛疾患分类(ICHD)。然而由于其涵盖头痛种类多,部分诊断标准差异小,更新换代等因素,增加了医生在临床中完整正确运用ICHD的难度。基于IC