命名实体识别和语义角色标注的多任务学习方法研究

来源 :东南大学 | 被引量 : 1次 | 上传用户:ok695304259
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的飞速发展与普及,互联网上充斥着各种各样的海量信息。信息爆炸对每个人来说都是一把双刃剑,一方面它使人们获取的信息越来越丰富,另一方面却增加了人们获取高质量信息的难度。面对海量的文本信息,如何准确而高效的识别出带有语义的信息成为自然语言处理方向的一个难题。人们根据不同的使用场景设置了不同的学术研究任务,传统的研究思路是不同的任务设置一套对应的处理模型,将命名实体识别和语义角色标注两个任务分隔开来对待,这不仅会导致一个面向用户的系统需要维护多个子模型,带来系统复杂冗余、难以维护的问题,而且忽略了任务之间的联系。此外,传统的研究大多集中在英文数据集上,所提出的方法往往都会出现在英文数据集上效果理想,而在中文场景中出现不同程度的劣化现象。针对上述问题,本文提出构建一套适用于命名实体识别和语义角色标注两个任务的神经网络算法,并在此基础上探索中文数据场景下的有效语义特征。具体贡献如下:(1)设计一套适用于命名实体识别和语义角色标注两个任务的神经网络。本文提出了一套多任务通用的神经网络架构,使用Highway-LSTM网络改进传统的堆栈式网络,进一步缓解长距离依赖问题,以此捕获更多的上下文语义特征。在使用条件随机场捕获句子级别的语义特征时,本文通过设置受约束的概率转移矩阵,避免出现非法标签序列问题。(2)研究中文应用场景下提升网络模型效果的有效特征。现有的研究大多集中在英文数据集上,所提出的方法往往都会出现在英文数据集上效果理想,而在中文场景中出现不同程度的劣化现象。本文提出使用卷积网络对词汇提取字级别的语义特征。同时,任何语言的组织都遵从一套固有的语法规则,词性是词语在语法结构上的等价物,因此本文提出了使用词性作为输入语义特征的方法。(3)设计并实现了一套命名实体识别和语义角色标注的通用标注系统。体现研究成果价值的最好方式是工业实践落地,基于这个目标,本文设计并开发了一套信息抽取系统。
其他文献
随着科学技术的进一步发展,5G的提出与试运营,意味着移动通信运营领域的发展即将进入一个全新的阶段。5G的采用将会极大地提升数据与信息的交换速度,工作效率、人与人间的交流沟通均朝着愈加便捷的方向发展,电信运营商在物联网市场的优势将逐步凸显,未来物联网市场必将被电信运营商所主导。对于物联网营销而言,既是机遇,更是挑战。本文以战略管理理论为基础,综合运用文献分析法、PEST分析法以及SWOT分析法等对5
目的:本研究通过利用锥形束CT(cone beam computed tomography,CBCT)对上前牙前突患者的颌骨进行扫描,对后牙区颌骨进行分析对比微种植支抗不同植入位置骨密度的变化,为临床微种植支抗植入提供参考。方法:将2015年1月~2016年12月在南通市口腔医院正畸科就诊的有上前牙前突主诉的患者20例(男、女不限,年龄12~28岁,其中男10例,女10例),利用锥形束CT对其口腔
江苏省滨海废黄河黄泛冲积区耕地面积约80万公顷,是该省重要的粮食主产区,也是主要的中低产田集中分布区。冲积区土壤普遍存在砂瘦、板结、漏水漏肥等特点,以及土壤有机质含量普遍不高、大量与中微量养分含量不均衡等现象。当地农民为了追求产量和短期的经济效益,种植过程中通常偏施化学肥料,极少施用有机肥,导致土壤板结、耕层土壤结构恶化,土壤养分失调等问题日益严重。从长远角度来看,复合肥虽然可以短期内解决作物对养
中国是一个水资源严重不足的国家,尽管淡水资源总量占全球的6%,排名第五,但人均量仅为2100m3,仅为全球平均水平的25%,是全球人均水资源最为匮乏的13个国家之一。人均水资源匮乏,空间分布不均是中国的基本国情。但现阶段,中国水资源利用较为粗放,水资源利用效率不高,为了缓解水资源短缺与经济可持续发展之间的矛盾,政府不仅需要进行水资源端管理,除了节约用水外,还需要提高水资源利用效率,才能从根本上保证
昆明市呈贡区属于云南省的重点开发区域,属山间盆地,工程建设项目较多。该工程建设范围内的土层分布中,有着较多的粉质黏土层分布。该区域粉质黏土的物理力学指标对于该区域
虚拟现实技术随着5G网络、边缘计算、人机交互和传感技术的发展得到进一步完善,逐步展现出其在各个领域的应用价值。目前,虚拟现实已经在教育培训、军事训练、城市规划、娱乐
研究目的:通过分析相关内分泌及免疫指标的变化,研究42℃全身热疗对摔跤运动员训练后免疫机能恢复的影响。研究方法:以北京男子自由式摔跤二线队员15名运动员为实验对象,随机
德育是教育者依据特定社会要求和德育规律,对受教育者实施有目的、有计划的影响,培养他们特定的政治思想意识和道德品质的活动。实现德育的途径很多,有政治课,共青团的活动,
会议
企业同构或差异化战略作为管理实践中的普遍现象,受到学界的广泛关注。目前关于企业同构或差异化战略的研究主要集中在制度与竞争同构理论和资源基础理论领域。然而,其中大部
在我国经济发展、社会就业方面,特别是在当前我国经济转型和结构调整的关键时期,中小企业具有举足轻重的作用。然后由于我国中小企业资信状况差、抵抗风险能力弱、缺乏可用于