基于LSTM神经网络的对话生成方法研究

来源 :重庆邮电大学 | 被引量 : 0次 | 上传用户:Colo
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在以人工智能作为国家发展战略技术的驱动下,作为人工智能产业中自然语言处理领域的典型应用,闲聊式的人机对话一直是评价智能化进程的重要标准。本文面向开放领域的对话场景,针对对话过程中的文本生成问题,通过深度神经网络模型的构建,完成对话文本所含语言规律、知识结构以及语义信息的学习,实现对话文本在交互过程中的多样性表达,同时提升人机对话的语义相关性。本文的主要研究过程从以下两个方面进行:针对检索式对话文本的深层语义特征提取,采用循环神经网络构建对话匹配模型,通过长短期记忆神经网络消除循环神经网络的长期依赖问题,完成输入语句与生成回复的语义编码,获取深层语义的特征向量表示,根据语义匹配度算法得到输入语句与回复向量的匹配值,进而筛选出最佳回复语句。针对生成式对话文本的多样性表达任务,以序列到序列的编码-解码模型为对话生成的研究基础。利用长短期记忆神经网络在处理长对话文本序列问题上的优势,获取长文本语句的语义表达信息,通过注意力机制有效调整语句中关键词对于生成序列的权重,提高对话回复文本语义表达的准确性。同时,针对生成回复的多样性问题,通过双向长短期记忆神经网络提高模型对于语句的编码能力,引入多样性集束搜索算法和最大互信息训练网络模型,消除生成语句陷入局部最优点的问题,通过每一次的top-k计算迭代,从而得到前k个序列语句,实现对话生成回复的多样性表达。实验表明,基于信息检索的对话语义相关性更高,语句结构更完整,但是创新性和多样性较差;生成式对话可拓展性更好,回复语句的创新性更高,更具研究前景。
其他文献
驾驶员特性是驾驶员在驾驶过程中表现出来的一种驾驶习惯,它能够反映驾驶员一定的性格特性。不同特性的驾驶员对车辆的性能要求往往是不同的,因此本文进行了基于驾驶员特性的自适应换挡规律研究。首先在模拟驾驶环境下采集不同驾驶员在起步、加速及制动工况下的驾驶数据,利用PCA分析法选取驾驶员在这些工况下的聚类分析特征参数,采用K-means、SOM神经网络以及GMM聚类算法分别对这些工况下的驾驶数据进行了聚类分
氮化铝(AlN)是一种重要的Ⅲ-Ⅴ族直接带隙半导体材料,广泛应用于多种器件中。AlN薄膜具有宽带隙、高温稳定性等特点,可作为紫外光电探测器的敏感材料,也可作为紫外发光二极管的
灯具是人们生活和工作中不可或缺的照明工具。随着生活水平的不断提高,人们对灯具提出了越来越高的要求,智能灯具应运而生。虽然目前人们可以在市场上找到许多具有手机APP远
太极拳是众多武术拳种中的一种,其行云流水、深绵不息的气势,松缓自然、空灵睿智的神韵,以及老少皆可练习的运动方式,深受大众喜爱。因其具有的技击攻防、健身、养生价值,而
集成调度是调度领域重要的分支之一。现有关于生产与运输集成调度的研究往往忽略库存因素的影响,而实际生产中,在产品加工完成没有立刻运输则需要存入仓库,因此库存也直接影
心电信号(Electrocardiogram,ECG)是心血管疾病临床诊断的重要依据之一。近年来,随着移动医疗和可穿戴技术的发展,低功耗、小体积、易采集的单导联ECG信号采集设备逐渐占领市
衍射光栅作为一种核心光学器件,在光谱分析、太阳能电池、石油化工和公共安全等领域都有重要应用。目前,传统的光栅制备工艺存在成本高、灵活度低和工艺繁琐等缺点。作为一项
目的:本研究旨在通过观察填精益髓法干预治疗肝肾亏虚型HBV相关性肝硬化(代偿期)患者第0、12、24周的FibroScan硬度值、肝功能以及血常规的变化,以及第0、24周中医症候评分、超声半定量评分计分的变化,并评估其临床总疗效的差别,探讨填精益髓法治疗HBV相关肝硬化的科学性,为中医药治疗HBV相关性肝硬化提供新思路。方法:本课题拟采用随机对照研究的研究方法,将2017年9月至2018年9月期间
随着科学技术的发展,自主式水下航行器(AUV)的相关技术研究受到了越来越多的关注。历年来,对水下航行器的研究与开发主要集中在材料、电力系统、导航与定位系统、水下通信技
人体姿态估计和行为识别是计算机视觉的热门研究领域,在老年人看护、医疗康复、动漫游戏制作、运动医学研究、安防监控、工厂人机协同等方面有重要的应用价值。人体骨架坐标