【摘 要】
：
任务中的生成式摘要模型对原文理解不充分且容易生成重复文本等问题，提出将词向量模型ALBERT与统一预训练模型UniLM相结合的算法，构造出一种ALBERT-UniLM摘要生成模型。该模型采用预训练动态词向量ALBERT替代传统的BERT基准模型进行特征提取获得词向量。利用融合指针网络的UniLM语言模型对下游生成任务微调，结合覆盖机制来降低重复词的生成并获取摘要文本。实验以ROUGE评测值作为评价
【基金项目】
：
国家自然科学基金（61972456,61173032）； 天津市自然科学基金（20JCYBJC00140）； 泛网无线通信教育部重点实验室（BUPT）开放课题（KFKT-2020101）；
论文部分内容阅读
任务中的生成式摘要模型对原文理解不充分且容易生成重复文本等问题，提出将词向量模型ALBERT与统一预训练模型UniLM相结合的算法，构造出一种ALBERT-UniLM摘要生成模型。该模型采用预训练动态词向量ALBERT替代传统的BERT基准模型进行特征提取获得词向量。利用融合指针网络的UniLM语言模型对下游生成任务微调，结合覆盖机制来降低重复词的生成并获取摘要文本。实验以ROUGE评测值作为评价指标，在2018年CCF国际自然语言处理与中文计算会议（NLPC-C2018）单文档中文新闻摘要评价数据集上进行验证。与BERT基准模型相比，ALBERT-UniLM模型的Rouge-1、Rouge-2和Rouge-L指标分别提升了1.57%、1.37%和1.60%。实验结果表明，提出的ALBERT-UniLM模型在文本摘要任务上效果明显优于其他基准模型，能够有效提高文本摘要的生成质量。
其他文献
导演章明始终游离于主流电影话语之外，令其蜚声国际的《巫山云雨》以塔可夫斯基式的舒缓优雅开创了章明别具一格的诗意言说风格。章明常常被置于第六代导演群落中去讨论，但无论表现形式或是艺术诉求都将其与第六代明确地区隔开来。在颇具作者性的“巫山空间”当中，章明电影的现实性与人文性都是“具体的”,透过时代镜像下“具体的人”和欲望的身体，呈现了生命原欲的躁动，深度触碰了当代现实主义电影忽视的生命的本真状态并实现
目的:本研究的目的是寻找膀胱癌（Bladder Cancer,BC）预后相关差异表达基因,并关联BC恶性进展的中枢基因,分析其表达与临床病理信息及肿瘤免疫浸润的关系,从而为BC提供新的诊断及预后生物标志物,并为基于分子水平的BC免疫治疗提供新思路。方法:通过多种公共数据库,分析得到预后相关差异共表达基因,并分析其表达与肿瘤进展、临床病理信息之间的联系,最后研究其与肿瘤免疫浸润的关系。1、从TCGA
长期以来R134a一直是我国汽车空调唯一使用的制冷剂。随着基加利修正案在我国的正式批准生效以及国家“双碳”目标的提出，在汽车空调领域逐步消减甚至淘汰R134a制冷剂已经成为无法逃避的现实。目前国际上主流的R134a替代制冷剂是R1234yf和CO2,前者占主导地位。随着新能源汽车在我国的迅猛发展以及热泵技术的不断应用，CO2由于环保特性和出色的制热能力而受到越来越多的关注。本文介绍了CO2制冷剂的
从抗战时期中国文化名流云集重庆营造的"抗战文化",到以周恩来为代表的老一辈无产阶级革命家培育的红岩精神,从城口等革命老根据地留下的大量红军标语,到邓小平、刘伯承解放重庆主攻西南……在重庆这片热土上,浸润着无数志士仁人的鲜血,处处体现着"爱国、奋斗、团结、奉献"的红岩精神,它和井冈山精神、长征精神、延安精神一样,都是中国共产党和中华民族的宝贵精神财富,激励着巴渝儿女奋发图强。
由于我国在近年来的经济发展过程当中不断加快建筑工程的建设,在大量的新建工程项目的基础上同样存在着较多的既有建筑结构,这样的民用建筑结构由于建设时间较为久远,因此难以将相关竣工资料进行完好的保存,而这样的既有民用建筑结构则是影响到人民大众生活质量以及人身安全的关键性结构,因此,对既有民用建筑结构安全性进行检测,进而全面分析判定这样的建筑结构存在的问题并提出相应的解决对策,能够提高民用建筑结构的安全性
近年来，精装修住宅开始被广大民众和建筑企业所接纳，但是在精装修住宅装修施工的过程中也存在很多的问题，例如施工材料，施工工艺和施工细节，这些都需要进一步加强与改进，针对这方面问题，必须进行高度的关注和重视。本文主要针对精装修住宅施工过程中需要关注的各种问题进行分析，讨论精装修住宅的特点以及实际施工过程中需要使用的措施，希望可以为我国精装修住宅施工起到参考。
针对当前老旧建筑加固装置存在的加固范围小和加固效果差的问题，拟设计一种建筑结构的加固装置。介绍了该加固装置的设计原理、主要部件及其结构、具体使用方法，并探讨了其技术优势和加固效果。
油田污水处理是水质保障的重要手段，石油工程要高度重视污水处理，避免水质不达标对油田工作造成影响。目前油田污水处理主要是采用科学技术手段，用先进的技术进行油田污水处理，以专业的设备和工艺、系统进行处理的效果显著，但整个处理过程中有许多因素会影响水质，导致处理的水质欠佳。本次对油田污水处理水质影响因素作分析，探讨有效的改善对策。
毫米波探测设备中,接收机模块的灵敏度对探测及成像有着很重要的影响。在一些诸如火灾探测的场景中,对接收机模块的动态范围也有较大的需求。本文结合Ka波段便携式微波辐射火灾探测仪项目的需求,设计了一款Ka波段,小体积、高灵敏度、大动态范围的接收机模块,实物尺寸为80mm*15mm*15mm。实测结果显示,接收机增益可达80dB,噪声系数小于3dB,可探测亮温动态范围为30～800K,线性度较好。
＜正＞所谓二项式定理就是（a+b）n=Cn~0an+Cn~1an-1·b~1+…+Cnkan-kbk+…+Cnnbn（n∈N*）.我们把这个公式右边的多项式叫做（a+b）n的二项展开式,把展开式中各项的系数Cnk（k=0,1,2,…,n）叫做二项式系数,把展开式中的第r+1项Cnkan-kbk叫做二项式展开式的通项,用Tk1=Cnkan-kbk表示.不难发现,二项展开式有如下特点: