基于XLNET的抽取式多级语义融合模型

来源 :通信技术 | 被引量 : 0次 | 上传用户：sinohydromusc

【摘要】

：

机器阅读理解的公开数据集有许多,根据答案类型的不同可分为抽取式数据集(如SQuAD)、生成式数据集(如MS MARCO)、完形填空数据集(如CNN/Daily Mail)、多项选择数据集(如MCTes

【作者】

：

胡益淮

【机构】

：

杭州电子科技大学计算机学院

【出处】

：

通信技术

【发表日期】

：

2020年7期

【关键词】

：

深度学习自然语言处理机器阅读理解注意力机制 XLNET deep learningnatural language processingmachine r

下载到本地 , 更方便阅读

下载此文赞助VIP

声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架

论文部分内容阅读

机器阅读理解的公开数据集有许多,根据答案类型的不同可分为抽取式数据集(如SQuAD)、生成式数据集(如MS MARCO)、完形填空数据集(如CNN/Daily Mail)、多项选择数据集(如MCTest)等等。抽取式数据集的特点为其问题的答案为原文中的一个序列。针对于SQuAD提出了新的机器阅读理解模型:模型的表示层采用了XLNET语言模型生成词向量以替代了GloVe传统词向量与BERT预训练词向量。该模型的编码层采用两层双向LSTM网络对表示层输出的文本向量进行编码,提取文本的多级语义。该模型在交互层利

其他文献

高速公路三车道大断面隧道施工围岩稳定性研究

这些年来,国家的整体发展水平处于世界第一梯队,带动我国公路交通建设也飞速发展,公路等级不断提高;目前,整个国家高速公路建成运营的已经大于13万公里,包括大断面在内的各类

学位

高速公路三车道大断面隧道围岩稳定性监控量测

巷道交叉角度对围岩稳定性影响分析研究

文章以阳煤五矿胶带运输巷和调车线两相交巷道交叉点为工程背景,利用ANSYS软件计算分析了不同交叉角度顶底板应力分布情况及位移变化规律。研究结果表明：巷道交叉点处锐角三角

期刊

岩巷巷道交叉角度围岩稳定性数值分析mine rock roadway cross angle of mine roadway stability of

全玻璃真空管型太阳热水器内流场的CFD模拟

全玻璃真空管型太阳热水器是技术相对成熟、应用最广的太阳能利用方式．通过对全玻璃真空管型太阳热水器内流场的计算流体力学模拟，研究了器内的对流换热过程，分析了真空管截面的

期刊

全玻璃真空管型太阳热水器流场计算流体力学(CFD)

考虑船闸闸室宽度影响的横向渗流阻力系数法

为在船闸闸室的二维横向渗流计算中考虑闸室宽度的影响,基于改进阻力系数法,建立了考虑出流宽度的阻力系数局部计算模型。改变地基深度与防渗深度、出流宽度的比值,运用ABAQU

期刊

船闸闸室宽度横向渗流闸内段阻力系数坡降lockchamber widthtransversal seepageinner sectionresist

重阳节前省委领导走访慰问老红军、老干部

期刊

重阳节

自信的理由——我的育人案例

本文认为要得到学生的认可和尊敬，不只是简单的教与学的问题，还要在学生的思想等方面下功夫。

期刊

自信育人思想

黄土区冻融期不同土地利用土壤水分与温度的关系

为了研究冻融期土壤水分与温度的变化及其关系,通过监测野外不同土地利用径流小区土壤水分与温度数据,分析了不同深度土层土壤水分和温度的时空变化规律,阐明了研究区土壤水分与温度的相关关系。结果表明:冻融期,坡耕地20 cm土层含水率变幅最大,草地和林地均为40 cm土层含水率变幅最大;坡耕地20 cm土层含水率变异程度最大,而草地和林地的最强活跃层分别为:30 cm和10 cm;草地最先进入冻结期和融解

期刊

冻融期土地利用土壤水分土壤温度相关关系安塞县freezing-thawing periodland usesoil moisturesoil tem

基于XLNET的抽取式多级语义融合模型

其他学术论文