基于任务型多轮对话的意图识别研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:hermes262
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着人工智能的兴起和移动互联网的发展,对话系统这一新型人机交互方式逐渐走入人们的生活,并受到学术界和工业界的持续关注。意图识别是人机对话系统中自然语言理解部分的关键子任务,主要用于对话系统正确理解用户语言,意图识别的准确性影响对话系统的合理回复生成以及整个对话系统的服务质量。近年来,深度学习模型在单意图识别任务上有较好的表现,然而在多轮对话中如何利用当前对话的历史信息来理解当前对话的多个意图,是对话系统的难点。
  针对多轮对话下的多意图识别问题,具体工作如下:
  其一,现有的意图识别方法,其文本的词向量表示方法无法解决同义词、一词多义等问题,本文选取Bert预训练模型得到文本的字符级向量表示以获取更丰富的语义信息。
  其二,目前已有的意图识别模型对历史信息的利用比较单一,本文针对多种对话场景,设计了一种基于双向门控循环单元和注意力机制的分类模型,该模型提出了四种历史信息引入方式并加入了控制单元进行筛选,进一步提升了分类效果。
  其三,针对对话文本可能含有多个意图的问题,本文设计了一种基于改进型胶囊网络的多意图识别模型,该模型在引入历史信息与控制单元的基础上,利用双向门控循环单元代替胶囊网络的卷积层,并增加自注意力层和卷积胶囊层提取意图文本的关键语义信息。
  在单意图和多意图的数据集上的实验表明,引入历史信息和控制单元后,双向门控循环单元模型的微平均F1值分别提高了12.91%和6.79%,改进后的胶囊网络模型的微平均F1值分别提高了14.60%和13.67%。
其他文献
人体目标检测与跟踪技术是当今社会的主要研究方向和流行趋势。由于人体作为非刚体的代表,相关技术应用到行人方面具有重要的研究价值,而且某些目标与人体目标对象可能具有相似的外形,不利于对人体多目标的检测与跟踪,使目标人体对象的特征提取变得极为困难。因此,对不同应用场景和平台下的多目标人体特征进行有效的检测与跟踪具有深远的应用潜力。  针对不同平台、场景和传统算法对人体多目标检测率低的问题,本文在残差网络
学位
在空空对抗的毁伤效能评估体系中,由于弹丸炸点位置依赖引信接收到的目标反射回波能量大小,目标的博弈性根据炸点位置的变化随机改变,使多发引信炸点与敌目标之间具有博弈对抗关系,双方攻防对抗特性的探索使近炸毁伤这一领域的研究更贴合现代战场的发展方向。国内对于这一方面的研究较少,很难系统的给出破片式战斗部对目标毁伤的数学模型和此过程的可视化模拟仿真。因此,研究不确定目标姿态、不确定炸点位置、不确定破片场空间
学位
为解决听障人群沟通需求日益增长与手语普及率低之间的矛盾,以及用户体验需求的便捷性与智能设备功能的复杂性之间的矛盾,本文借助深度神经网络对人机交互领域的连续手语语句识别问题展开研究,主要研究工作包括:  (1)提出了一种基于区域-卷积神经网络(Region-Convolutional Neural Networks,R-CNN)算法与伽马变换相结合的手部区域分割算法。R-CNN用于检测彩色图像中的目
学位
随着互联网技术的快速发展,用户对存储系统容量和性能的要求越来越高。基于NAND闪存的固态盘由于其大容量和高性能等特性被广泛使用。为满足用户不断增长的容量需求,闪存厂商通过多层单元存储以及3D闪存技术提升存储密度,但在增加闪存容量的同时降低了闪存性能。闪存芯片提供双模切换操作允许单元存储比特数在多位及一位间进行切换,以利用高性能的SLC(Single-Level Cell, 1 bit/cell)模
21世纪,由于全球油价上涨,油页岩工业复苏。在2019年,美国从页岩中开采的致密油已达到其原油产量的半数以上。中国的“十二五”与“十三五”计划,也将油页岩工业提升到了重要的战略地位。  然而,页岩油资源的开采难度较大,成本较高。测井评价作为油页岩工业中的重要一环,有重要的研究意义。将机器学习运用于测井评价,有助于在传统方法的基础上,进一步提高测井评价的准确性,并为发现测井数据的内在规律提供新思路。
学位
现在大型商业云服务提供商,如阿里云,需要以最小的成本为用户提供高质量服务。因此这些云数据中心内部广泛部署由固态硬盘(Solid State Drive,SSD)和机械硬盘(Hard Disk Drive,HDD)组成的混合存储节点,同时提供SSD的高性能和HDD的大容量。这些混合存储节点通常会将应用数据先写入SSD,以保证较低的写入延迟,然后后台线程将其合并批量写到对应的HDD。这种写模式被称为S
学位
随着数据密集型应用内存消耗逐渐增大,现有的动态随机存储器(Dynamic Random Access Memory, DRAM)作为计算机内存已经难以满足大容量、高密度以及低能耗等需求。新兴的非易失性内存技术(Non-Volatile Memory, NVM)具有大容量、高密度和低功耗等特点,可以与DRAM共同组成大容量的混合内存以满足应用需求。但由于当前NVM在读写性能上与DRAM尚存在差距,在
学位
云服务商需要高性价比的大规模存储,通常采用混合存储节点,也就是使用高速固态硬盘(Solid State Drive, SSD)作第一级快速存储,机械硬盘(Hard Disk Drive, HDD)作第二级后端存储。但是SSD存在写磨损和写延迟相对高的问题,因此如何尽量减少SSD写入数据量,并充分发挥其读性能优势,成为了研究热点。  为了理解大规模商业云系统中的数据存取行为,本文分析了阿里巴巴公司盘
学位
基于日志结构合并树(Log-Structured Merged Tree,LSM-Tree)的键值存储系统由于良好的读写性能,受到越来越多的关注,已经成为近期存储系统研究的一个热点。然而,当前的LSM-Tree键值存储系统无法高效地处理频繁更新的倾斜负载,数据会频繁地写入到底层持久化设备,影响前台键值对的插入性能;同时,其内部存在写放大问题,并且文件元数据读取效率也存在改善的空间。  考虑到上述问
随着现代游戏行业的飞速发展,玩家对于游戏品质的要求也越来越高。在游戏中,智能寻路是人工智能的重要应用之一,而A*算法则是智能寻路算法中最热门的算法之一。A*算法结合了启发式搜索的思想,筛选出当前“最优”节点,从而能够大大提升搜索效率。但是A*算法由于需要扩展“最优”节点的所有后继节点,因此在地图较大且复杂的情况下,会面临节点搜索效率低且内存占用大的情况。同时,A*算法仅使用了距离维度的启发函数来评