【摘 要】
：
对话系统作为人机智能交互的关键,具有重要的实际应用价值,受到了学术界和工业界的广泛关注。自然语言生成作为对话系统中的关键技术,决定了对话系统输出回复的质量,因此自然语言生成模型的性能很大程度上影响着对话系统的智能化程度。然而,传统的自然语言生成模型由于缺乏知识的指导,通常偏向于生成通用的安全回复,这种回复缺乏信息量,严重影响对话体验。知识指导的对话回复生成技术通过将知识信息引入到对话的上下文中,通
论文部分内容阅读
对话系统作为人机智能交互的关键,具有重要的实际应用价值,受到了学术界和工业界的广泛关注。自然语言生成作为对话系统中的关键技术,决定了对话系统输出回复的质量,因此自然语言生成模型的性能很大程度上影响着对话系统的智能化程度。然而,传统的自然语言生成模型由于缺乏知识的指导,通常偏向于生成通用的安全回复,这种回复缺乏信息量,严重影响对话体验。知识指导的对话回复生成技术通过将知识信息引入到对话的上下文中,通过知识来指导模型生成包含知识信息的回复,成为对话系统中自然语言生成技术研究的热门方向。本文主要就对话系统中知识指导的回复生成技术展开了研究和实验。本文首先介绍了自然语言生成相关技术,包括单词嵌入、Transformer模型以及预训练模型,自然语言生成模型常用的自动化评估指标Hits@K、BLEU、Distinct,以及人工评估指标流畅性和上下文相关性;接着使用传统检索式和生成式模型在Kd Conv（Knowledge-driven Conversation）数据集上进行了实验,得到自动化评估指标结果和人工评估指标结果作为基准结果。本文提出了两种融合知识信息的对话回复生成模型,分别是基于知识树的GPT生成模型KT-GPT（Knowledge-tree GPT）和基于知识拷贝的GPT生成模型KC-GPT（Knowledge-copy GPT）。KT-GPT采用知识树的结构将知识三元组引入到输入序列中,将知识信息隐式地编码到表征向量中,解决了传统生成模型回复信息含量低的问题。为了提高模型的可解释性,KC-GPT对KT-GPT模型的输入序列编码方式进行了调整,在生成回复中显式地引入知识三元组的信息,在KT-GPT基础上进一步解决了未登录词的问题。最后,基于Kd Conv数据集对KTGPT和KC-GPT模型进行了实验和分析,发现在3个不同领域的数据中,KT-GPT相较于传统生成模型在自动化评估指标Hits@K、BLEU和Distinct上平均提升率分别达到56.82%、65.96%和36.64%,人工评估指标流畅度和上下文相关性平均提升率分别达到6.52%和34.49%;KC-GPT相较于KT-GPT模型进一步改善,在BLEU和Distinct指标上平均提升率分别为3.19%和2.83%,在流畅性和上下文相关性上的平均提升率分别为3.24%和2.26%。通过对实际样例分析,发现KC-GPT模型在特定上下文中生成的回复更加接近人类的水平。
其他文献
＜正＞归纳推理意识，是由个别性知识推导出一般性结论，由个性案例总结出普遍性规律的意识，是一种十分重要的数学思维，也是学习数学知识、开展数学实践的前提和基础。因此，在小学数学教学中，教师应该重视学生归纳推理意识的培养，使学生在归纳推理中形成数学概念、建立数学模型、探索数学规律、提升数学素养。在本文中，笔者结合个人的学习成果与工作经验，针对培养学生归纳推理意识的途径与策略展开研究与探索。希望通过本文的
随着我国城市建设快速发展以及人民生活条件不断提高，建筑能耗的总量及其所占全国能源消费总量比例都在逐年升高。该文以适宜我国夏热冬冷地区居住建筑围护结构低能耗设计为目标，参照德国被动房的参数标准及我国现行设计标准，通过无热桥、被动式门窗及遮阳系统、气密性三方面设计策略，探索建筑围护结构被动式节能设计方法。对我国被动式建筑设计以及现有建筑亟需存量更新状况及未来发展提供新的途径和方法。
自2018年起,国家开始对房地产行业进行频繁调控,出台了一系列的收紧政策,致使房地产行业信用风险逐步显露的同时,行业信用风险出清与行业整合也进一步加快。因此对一系列政策出台的背后其调控效果如何、调控后房地产行业的信用状况如何、信用状况是否符合政策调控预期以及房地产行业在政策调控下所表现出的新现象与所面临的新挑战等进行测度与分析具有重要意义。文章首先对2018年至2021年房地产行业的运行方面进行了
目的 借鉴美国核化生应急医学救援建设先进做法，为我国核化生应急医学救援力量建设提供参考和启示。方法 通过情报调研、专家咨询等方法，梳理分析美国核化生应急医学救援力量体系构成和建设特点。结果美国建立了军地一体的核化生应急医学救援力量体系，具备分级建设、分区部署、分工明确、模块建设、军地共建等5个特点。结论 建议通过对接建设标准、强化联合演训、统筹力量布局、协调专业整合等措施，推进我国核化生应急医学救
本文探讨地方政府失业目标调整对企业就业质量的影响。以2870份市级政府工作报告中计划失业率测量政府失业目标，以企业冗员反向测量就业质量，研究发现：更宽松的失业目标调整会降低冗员，提升就业质量；这种调整影响存在非对称性，企业对失业目标的上调更为敏感，会显著降低企业冗员，但下调影响并不显著，这说明调整影响更多来自政府导向下的企业主动行为。本文也发现失业目标调整的影响在民企、补贴较少的公司和市场化程度高
目的 讨论慢病管理模式在原发性高血压控制中的作用。方法 选择2018年1月至2021年1月襄阳职业技术学院附属医院收治的原发性高血压患者100例，随机分为实验组和对照组，对照组采用常规门诊管理，实验组在此基础上接受专科人员开展的慢病管理模式。结果 干预一年后，实验组的血压控制率、用药依从性、生活方式改变、自我管理能力等方面均优于对照组（P＜0.05）。结论 对原发性高血压患者采用慢病管理模式，有利
当前社会,随着线上线下教育市场的不断拓展,各类考试的需求不断增加。然而,传统人工阅卷方法由于成本高、耗时长、统计慢,已无法满足现代社会需要。虽然,客观题的自动阅卷技术已非常成熟并得到普遍应用,但由于自然语言处理复杂的汉语技术难度大,在主观题阅卷的处理上还是有许多不足。例如没有考虑语义、语序等问题对评分精度的影响。同时,由于实用性、模型评分过程可见性等问题,目前还没有大规模的中文主观题阅卷系统开发落
商标蕴含的巨大无形财产价值和低廉的申请注册成本诱发了商标恶意注册行为的产生。社会上充满了恶意抢注他人在先使用的标识或标记、抢注公共资源类商标的违法行为,商标申请人无真实使用意图、无其他正当的理由而擅自实施大批量囤积商标行为、意图借此牟取不正当利益的现象也日益猖獗,我国商标注册取得制度的固有缺陷也给恶意商标申请人提供了可乘之机。出于保护商标制度、维护商标注册与管理秩序、净化市场营商环境和保护公共利益
发展养老服务是应对人口老龄化的重要社会政策和措施。对比并学习借鉴国外养老政策规划的有益经验,有助于我国进一步完善积极应对人口老龄化战略。本文构建了一个包含政策工具类别、ERG理论（existence,relatedness,growth）的二维养老政策工具理论分析框架,以中国、美国、日本、加拿大四国养老政策文件作为研究样本,采用内容分析法,对样本进行分析和评价。研究发现:上述四国在政策工具的运用上