基于深度学习的跨模态检索方法研究

来源 :合肥工业大学 | 被引量 : 0次 | 上传用户:erhen
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
传统的基于单一模态的信息搜索方式,例如关键字搜索,以图搜图等,已经逐渐无法满足人们的实际需要。如何把网络上的多模态信息进行整合,将语义一致的信息关联起来,从而发掘出有用的信息,一直是多媒体研究领域长久以来的热点问题。跨模态检索的关键在于如何对不同模态的数据进行特征表示,以及如何将这些多模态特征关联起来。现有的基于深度学习的跨模态检索方法通常是将来自不同模态空间的数据投影到同一个多模态子空间中,生成分布一致的嵌入向量。将跨模态检索问题转化为子空间中嵌入向量之间的相似度排序问题。然而,现有的基于深度学习的跨模态检索方法对文本特征的单词级别的向量映射往往充斥着很多冗余,生成文本嵌入向量很难正确挖掘文本的高层语义信息。针对这一现象,我们分别从两个不同的角度提出了改进的跨模态检索方法。本文的工作内容如下:(1)针对图像特征和文本特征之间缺乏交互的问题,我们设计了一种基于多层级语义交互的跨模态检索方法。在现有的基于视觉语义联合嵌入的跨模态检索方法基础上,我们把文本单词嵌入向量特征逐个与图像特征向量进行多层级语义交互,并且利用交互信息对文本特征向量进行补充,生成融合多层级语义交互信息的文本嵌入向量。实验结果表明,这种基于多层级语义交互的检索方法可以使得语义相关的文本特征和图像特征之间的关联更加紧密,从而显著提升模型的检索效果。(2)针对句子级别的文本嵌入向量容易忽略图像中主题信息的问题,我们设计了一种基于主题补充的跨模态检索模型。首先,我们根据初始化一个外部主题矩阵,接着结合多头自注意力机制对每个文本词嵌入向量进行权重处理,并据此对文本向量和主题矩阵进行更新,再通过文本向量和主题信息之间的相互作用和补充,生成融合深层主题信息的文本嵌入向量。实验结果表明,这种基于主题补充的跨模态检索方法可以更好地挖掘文本模态的深层主题信息,从而减少文本数据中冗余信息的干扰,从而显著地提升模型的检索效果。为了更客观的评价我们提出的跨模态检索模型,我们还分别设计了不同词嵌入向量维度、子空间中不同嵌入向量维度、不同交互层级以及不同主题个数等多个实验场景,来深入探讨我们提出的改进的跨模态检索模型的有效性。
其他文献
创伤失血性休克是指由于各种创伤所致血管损伤、实质脏器破裂、骨折等引起机体出血、水肿以及渗出等一系列临床综合征。创伤失血性休克后存在血管低反应性,主要表现为血管对舒、缩血管活性药物不敏感,即反应性显著下降甚至不反应。血管低反应性对休克的治疗和预后有严重的影响,是复苏后血压能否回升、休克最终能否成功救治的重要制约因素之一。相关资料显示,在临床ICU中约有30%-40%的病人死亡与血管低反应性有关。因此
近年来,对有机分子体系、生物大分子体系、药物设计的研究进入到快速发展时代。对这些体系的研究,离不开分析分子构象之间的相互作用。虽然量子化学的理论计算方法和基于分子
生物质能一直是人类赖以生存的重要能源之一。在当今世界能源危机的背景下,生物质资源的开发利用越来越受到人们的重视。利用光催化剂将生物质经光催化反应重整而获得氢能是
γ能谱分析与识别技术在核安全保障领域应用十分广泛,例如核事故监测、核武器核查、防止核扩散和核恐怖中的敏感核材料识别等等。核材料中的放射性核素在衰变过程中会伴有γ
作为明中期出色的理学家,何瑭的文学创作受其哲学思想及文学复古运动的影响表现出一定的独特性。本文对何瑭的文学创作进行全面观照,以万历四年(1576)贾待问本《何文定公文集
人体三维姿态重建在影视制作,游戏和人机交互领域有很多应用,但是目前工业界中成熟的商业化解决方案大部分依靠动作捕捉系统来实现三维姿态重建的,这种方案成本高昂,使得这种
随着信息技术的飞速发展,网络空间安全问题日益严重。而传统的安全防御技术只有在获取攻击特征等先验知识的基础上才能生效,无法有效应对目标系统中的未知漏洞、后门等未知安
目的:探讨应用低黏度骨水泥联合经皮椎体后凸成形术(PKP)治疗骨质疏松性椎体压缩骨折的临床疗效。方法:回顾性分析自2017年1月至2018年1月,应用低黏度骨水泥联合经皮椎体后凸成形术(PKP)治疗的62例骨质疏松性椎体压缩骨折。比较术前、术后3d、术后6个月的伤椎椎体前缘高度、伤椎椎体矢状面Cobb角、疼痛视觉模拟评分(visual analogue score,VAS)及Oswestry功能障
近年来,云计算、虚拟化技术被广泛应用,在一台主机上搭载多台虚拟机,针对不同用户提供多种服务成为一种趋势。随着技术的推广,各种安全问题逐步暴露。相对于传统的物理主机,
陶安,元末明初理学文人代表之一。其诗文既不乏元明易代文人创作的整体倾向性,同时亦不失个人特色。本文以陶安诗文为主要研究对象,又以《陶学士先生文集》为主要研究文本,力图把握陶安诗文创作的特点,同时对其文学思想作深入分析。并以元末大背景作为时代参照,对陶安生平、创作进行更深刻的研究。本文共分为五章。第一章,主要对陶安的生卒年、生平经历、著述进行考证和补充。陶安先隐后仕的人生经历,可谓元明之交一类文人的