融合多元信息的微博文本命名实体识别

来源 :浙江工商大学 | 被引量 : 0次 | 上传用户:shaw1
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
命名实体识别(Named Entity Recognition,NER)是自然语言处理领域的基本任务,其在下游任务诸如搜索引擎、机器翻译和智能问答等任务中发挥着重要的作用。随着互联网的出现和快速发展,越来越多的人开始通过微博等社交平台发布信息,这使得微博文本信息出现大幅增长。从大量微博文本中提取出指定信息开始逐渐受到关注,然而微博文本作为非规范性文本,其研究成果远不如规范性文本。因此,微博领域的NER研究具有重大意义。目前,基于深度学习的方法开始广泛用于NER领域。对于微博这类非规范文本,本文以丰富文本语义信息为出发点建立NER模型。本文主要研究工作如下。(1)微博文本语法不规范、口语化等特点导致微博文本提供的信息量有限,突显了传统字符向量特征表达能力不足的问题,本文通过添加字形特征缓解这一问题,提出了融合字形特征的Bi LSTM-CRF模型。该模型首先采用文字渲染工具获取汉字图像数据,并根据CNN基础框架设计IGV模型提取汉字图像字形特征,然后通过设计融合模块将字形特征和BERT模型得到的字符嵌入融合作为最终输入,最后将获得的特征输入至主流模型Bi LSTM-CRF。实验表明,添加字形特征有助于模型获得更好的性能。(2)考虑到字符标记策略的中文NER模型丢失了词语的边界信息,本文通过添加外部词语信息缓解这一问题。本文通过修改Transformer编码器提出了融合词语信息的Transformer NER模型,其中改进主要体现在位置编码和注意力得分的计算公式上。依靠Transformer编码器高效的并行计算能力和长距离依赖编码能力,该模型有效的融合了词语信息。为了进一步探索同时融合词语信息和字形特征对中文NER任务的影响,本文从两个角度提出了融合词语信息和字形特征的Transformer NER模型。实验表明,Transformer NER模型可以有效的融合词语信息并提升中文NER模型的性能,此外,同时融合词语信息和字形特征能够进一步提升中文NER的准确率。
其他文献
随着信息技术的不断攀升以及移动终端设备在大众生活中的角色愈发重要,乘着这股东风,手机网络购物以其便捷的购买方式,而备受人民群众的青睐。随着互联网购物逐渐步入快车道,线上、线下与物流融合发展的“新零售”模式为零售业拉紧了共同的纽带,而社区团购便属于其中一个类型,在快递物流的各个环节中,以社区团购加末端物流配送的经营方式,具有距离短但成本高的情况,这也是快递业界值得重视的环节。在此背景下,C公司的末端
学位
随着中国互联网技术的应用不断拓宽和普及,线上消费近十年呈现爆发式增长,各类新兴电商平台和线上营销工具也不断涌现。近年伴随Web2.0技术应用而兴起的社会化媒体平台基于参与、公开、互动、传播效率高、传播成本低等特征,其用途从单纯的娱乐、聊天工具逐渐拓展到市场营销领域。目前,社会化媒体营销已成为各大厂商开展营销推广所不容忽视的重要渠道和环节。电商导购平台是倡导用户生成消费内容来促进消费的新兴营销工具,
学位
随着全球经济的多元化发展,客户对于各类产品的需求越来越个性化,因此,为了满足客户的个性化需求,很多企业将传统的标准化生产模式逐渐向非标定制模式转变,这种转变对传统采购管理方式带来挑战。非标类产品具有差异化、小批量以及要求交货周期短的特点,这样的特性给其零件的采购带来无形的困难,产品零件的采购成本,质量,交付时间都直接影响整体产品乃至项目的好坏。解决采购问题的关键在于快速而准确地选择满意的供应商,并
学位
随着我国经济的快速发展和互联网技术的日新月异,传统零售业创新持续涌现,以社区团购为代表的新零售业态取得了突飞猛进的长足发展。社区团购是行业发展和技术进步综合作用下的产物,是对行业未来发展势头的有益探索。近几年爆发的新冠肺炎疫情,将原本开始遇冷的社区团购市场再次推上风口浪尖,行业迎来了新一轮迅猛增长,竞争亦变得前所未有的激烈。社区团购的进入壁垒不高,加上业务模式相对较重,即使是目前已经处于竞争优势的
学位
波动率模型是研究衍生品定价的基础,如果波动率模型能精准地刻画和拟合真实波动率的特征,也能提高衍生品定价模型的定价表现。近年来,对于波动率模型和衍生品定价模型的改进,增加模型的信息含量是一种较为普遍的思路,其中,高频交易信息是被广泛应用的信息种类之一。此外,研究者们还发现,根据一定的数据特征对数据进行分解,也能更深程度的挖掘信息。本文以隔夜收益率和隔夜波动率为切入点,分解日收益率和日波动率,并研究这
学位
伴随着IP概念的深入人心以及博物馆文创产业内容红利的释放,以故宫IP为第一核心源头的文创发展呈现出前所未有的“井喷”态势。博物馆作为承载中国传统文化标识的优质资源渠道,其蕴含着巨大的转化势能和可激活的“引爆点”,成为资本争抢IP对象的香饽饽。至此,以IP为核心打通新消费新场景的博物馆经营布局,成为其文化产业发展的必然趋势。本文以IP理论为研究切入点,以Z博物院文创产品开发模式为研究对象,结合文献研
学位
随着中国经济的高速发展,对高端工业产品的需求也日益增长。因此,国外工业产品生产厂家在中国大陆设立工厂,在多年的代理销售过程中积累了大量的国内客户,在高端工业产品方面取得了巨大的利润。与此同时,参与销售过程的中国本土代理商也有了很大的发展。随着中国大陆市场的完善和法律建设,市场日益同质化和竞争激烈,代理商的利润点急剧下降,销售模式正在发生变化。对许多企业来说,销售模式的有效运作对企业传递客户价值、创
学位
作为房地产行业迅猛发展的伴随者和见证者,提供中介服务的房地产中介公司越来越成为我国经济发展的重要力量。但是,近两年政府针对房地产行业不断出台降温政策,包括进一步强化土地监管、针对房地产消费市场的收紧住房贷款等政策,对我国的中小房地产中介企业带来了巨大的影响。各房地产中介公司不得不纷纷通过各种变革措施,以探索公司如何渡过楼市寒冬。在房地产中介企业面临着严峻的外部政策形势的同时,企业的劳动力年龄结构也
学位
供应链金融作为一种新兴的融资业务模式,可以通过优化整合金融产品、服务以及风险管理等要素,有效的解决了中小企业因缺乏抵押物以及资信水平不高而造成的难融资问题。但是在实践当中,供应链金融还是具有一系列亟待解决的问题,比如信息不对称、融资成本居高不下、信用环境恶劣等,严重影响到了进一步的深化发展与普及。而区块链技术因为具备了去中心化、保障数据安全以及交易记录同步等优势特征,能够为供应链金融提供支持。当前
学位
2008年金融危机后,伦敦同业拆借利率(LIBOR)爆发了一系列操纵丑闻,加速了后LIBOR时代改革。在后LIBOR时代,银行贷款的基准利率很可能不一致,贷款错配的风险将会被放大,面临极大的流动性风险和利率风险。同时,经过二十余年的利率市场化改革,银行间的外币存贷款利率已经完全开放由各银行自主定价,定价方式也越来越灵活。因此,银行间的外币贷款竞争也越来越激烈,银行的外币贷款定价能力决定着其业务的发
学位