基于序列到序列模型的法律问题关键词抽取技术研究

来源 :长沙理工大学 | 被引量 : 1次 | 上传用户:wuweidexin
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
关键词通常是一段简短的和总结性的内容,能够描述较长文本中的主题信息。高质量的关键词能够为用户提供高度浓缩和有价值的信息。对法律问题做关键词抽取有助于法律信息检索,法律问答系统和法律信息分类,从而提高公民的法律素养和推进法治国家的建设。法律问题句子大都比较简短,本文主要研究短文本的法律问题关键词抽取。大多数已经存在的关键词抽取算法通常使用两个步骤来抽取长文本的关键词:第一步是将待抽取关键词的内容分为多个文本块,这些文本块作为候选关键词;第二步是对候选关键词按照对文本内容的重要性来进行排序。这些算法都需要大量文本特征和统计特征,在短文本的法律问题句子中,这些特征很难被提取,因此在抽取法律问题(短文本)的关键词任务上效果不佳。本文提出了一种基于强化学习的序列到序列(seq2seq)模型来从短文本的法律问题中抽取关键词,主要开展以下工作:(1)为了解决传统的关键词抽取算法不能够提取那些没有原文本出现过的关键词,受到序列到序列模型在机器翻译上取得很好效果的启发,把关键词抽取任务看作一个生成任务而并非简单的抽取任务,利用序列到序列模型来生成关键词。把序列到序列模型应用到中文法律领域的关键词抽取任务上,首先介绍了循环神经网络的原理以及序列到序列模型的编码器和解码器结构。然后结合中文法律问题文本的特点,在序列到序列模型中引入注意力机制和复制机制来进一步提高模型的性能。最后做了对比实验证明在法律问题关键词抽取上,序列到序列模型能够取得更好的结果。(2)序列到序列模型生成的关键词用传统的交叉熵算法训练,当提取的关键词集以轻微不同的连续顺序出现时,会被认为是错误的关键词。为了解决这个问题,本文提出用强化学习来训练所提出的模型。首先介绍了强化学习的基本原理。然后提出了一种奖励函数来对所生成关键词集做奖励和惩罚,解决模型生成重复关键词和忽略关键词集的顺序。最后和基于交叉熵的序列到序列模型与带有复制机制的序列到序列模型做了对比试验,证明用强化学习训练序列到序列模型能够取得更好的试验效果。
其他文献
拱式结构因其造型优美,受力合理以及施工方便等优点而被广泛应用在桥梁建设中以提高结构的跨越能力;索结构具有良好的柔性,能与拱结合形成新的结构形式兼具两者之长处,也被广泛应用在大跨结构中。为了寻求一种研究拱、索拱以及拱式组合桥的稳定问题的新途径,本文基于径向均布荷载作用下圆拱的屈曲微分方程,根据其边界条件采用传递矩阵法求解其特征值屈曲问题,并对拱和索拱组合结构的面内外稳定性以及拱桥的整桥面内稳定性进行
触点材料广泛运用于现代电子设备系统当中,担任着接通、断开电路的任务,其表面质量与系统能否稳定运行息息相关。由于触点材料需求量的增加,人工检测方法已无法满足触点材料
[目的]检测lncRNAAC104695.4在膀胱尿路上皮癌中的表达,并探讨其临床意义。[方法]通过qRT-PCR技术检测lncRNAAC104695.4在不同膀胱癌细胞系(BIU87、EJ、RT4、T24)和正常膀胱上皮细胞(SV-HUC-1)中的表达情况,并验证膀胱尿路上皮癌患者(47例)肿瘤组织和对应癌旁组织中lncRNA AC104695.4的表达情况。利用qRT-PCR技术检测lncRN
镁合金具有质量轻、比强度高、导热性及铸造性好等优点,在航空、航天、运输、化工等工业领域具有广阔的应用空间,同时镁合金具有生物降解性、传导性和良好的生物力学性能,在
土地沙漠化已经成为当今世界最严重的生态环境问题之一,且由于其分布广泛,危害到人类生活的自然环境、生态环境、社会经济以及人类的生存和发展,已广泛引起国际社会的关注。
目的探讨经皮穿刺抽吸减压术对不同分型的症状性骶管囊肿的疗效,通过分析影响预后的因素,为进一步提高骶管囊肿介入治疗的临床疗效提供有价值的参考依据。材料和方法回顾性的
孔、轴是大量使用的基础零件,随着制造业的快速发展,对其尺寸与几何精度及其规范化标注的要求越来越高。孔和轴的配合性能是由实际尺寸和形状误差综合形成的全局尺寸和计算尺
热障涂层(TBC,Thermal Barrier Coatings)因其具有很好的耐高温,耐腐蚀和抗氧化性能被广泛用于航空动力装置的热端部件上,但是热障涂层在热循环过程中会发生氧化生长形成热生
内燃机因其具有高效性和稳定性而在世界范围内得到了广泛的应用,但随着石油资源短缺和环境污染问题的日趋加剧,寻找高效清洁的可替代燃料成为当下解决问题的重要途径之一。正戊醇作为一种含氧生物质燃料,具有高十六烷值、低粘度、与柴油互溶性好等优点,受到了国内外学者的关注。而生物柴油基本不含硫和芳香烃、具备良好的低温启动性能并具有与柴油相近的理化性质,因此学者对其也做了大量研究。混合气的质量直接决定着缸内燃烧特
近年来,一批重要项目落户北部湾地区。由于北部湾沿岸地区广泛分布着湛江组结构性黏土且其具有强烈的触变性,导致该地区桩基时效性明显。尽管人们已经对土的触变性和桩基时效