基于注意力机制与多层级视觉特征的图像描述方法研究

来源 :上海财经大学 | 被引量 : 1次 | 上传用户:guider_zq
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据时代的发展,尤其是深度学习的研究,使得人工智能产品逐渐进入人们的视野,而图像描述则是近年来一大研究热点,可应用于网络图片数量爆炸式增长背景下的图像检索,也可应用于自动驾驶技术中的交通标志描述,还可应用于医疗领域中视觉障碍人士的生活辅助等等。图像描述任务是一种融合了图像信息和文本信息的多模态任务,目的是使计算机自动生成一句对图片的文本描述,因此如何准确提取图像特征、生成可读性高且准确的文本描述是图像描述任务的核心问题。目前虽然图像描述任务有一定的研究进展,但由于该任务的复杂性,仍存在以下难点需要进一步研究:(1)主流的研究大多基于英文数据集,一方面由于英文作为全球第一大语言,大部分权威论文期刊以英文发表,关注度更高,另一方面由于公开的英文数据集比较完备。然而中文的受众人群广泛,但由于中文的语义、句式结构的复杂性以及中文数据集的稀缺,导致生成的图像中文描述可读性及连贯性差、存在错误描述、句子结构单一的问题,因而研究图像中文描述的任务具有极大的挑战,需要更多的研究与创新。(2)经典模型中编码器提取的图像特征只用在解码器阶段的第一个时间步作为网络输入,后续每个时间步利用前一时间步预测的词语作为输入,导致模型只利用了图像的全局信息而未用到图像的多层级视觉特征。(3)数据预处理时会将参考描述句子统一填充成固定长度便于网络结构设计,于是解码器阶段到某个时间步时必然将对填充符号进行无效的处理,导致模型耗时、效率下降。针对图像描述任务中存在的上述问题,本文提出了基于注意力机制和多层级视觉特征的图像中文描述模型(RES-ATT-LSTM)。主要研究内容如下:(1)在AI Challenger2017图像中文描述数据集上实现了一种新的图像中文描述模型。(2)提出了基于注意力机制的图像中文描述模型,训练时在损失函数中加入注意力分布的正则化项,模型输出时将注意力机制可视化输出。本文的注意力机制是指解码阶段将在每一时间步利用输入的所有图像特征和上一时间步预测的词语来计算当前时间步的注意力分布,进而得到经注意力分布加权的图像编码特征,再将加权的图像编码特征与上一时间步生成的词语一起作为解码器的输入来生成当前时间步的预测词语。同时,本文对注意力机制进行了可视化,在每个时间步生成预测词语时,将注意力分布取值最大的像素区域在图片中标注出来,以实现生成的描述词语与图片特征位置对齐。另外,在损失函数部分,由经典模型的交叉熵损失函数引入了时间和空间上的双重注意力正则化项。因此,基于注意力机制的模型与经典模型相比,能够较好地利用图像的多层级视觉特征,使得生成词语更符合人类视觉特点,可解释性更强。(3)提出句子排序机制。与之前直接在每一时间步依次输入词语和图像特征进行处理相比,将图片及其参考描述句子按照句子的有效长度进行排序,以保证只在非<pad>填充符输入的时间步进行处理来生成预测单词,可有效的节省解码时间,提高模型效率。综上所述,本文提出了一种基于注意力机制和多层级视觉特征的图像中文描述模型,模型以编码-解码模型为基础结构,结合注意力机制与句子排序机制,损失函数在交叉熵函数的基础上引入双重注意力正则化项,且对注意力机制进行可视化,为图像中文描述任务提供了新的思路。最后,为了验证本文提出的基于注意力机制与多层级视觉特征的图像描述模型(RES-ATT-LSTM)的可行性和准确性,在2017年AI Challenger竞赛提供的大型公开图像中文描述数据集和Flick8k CN数据集上进行了大量的实验以及消融实验,主要以BLEU1-4为评价指标,将RES-ATT-LSTM模型与经典NIC模型、改进的IRRU模型等进行比较,实验表明:(1)本文引入注意力机制和双重注意力机制正则化部分能为模型效果带来较明显的提升;(2)本文提出的RES-ATT-LSTM模型在两个中文数据集上都明显优于NIC模型、IRRU模型等。
其他文献
代谢组学是生物流体或组织中低分子量代谢物动态变化的量度。代谢组学研究的基本策略为基于高通量分析技术量测的高维数据的获得和基于化学计量学方法的代谢组学数据解析。此类数据通常具有小样本、高维、高噪和易含奇异样本的特性。化学计量学在代谢组学数据解析中的两项主要任务为识别各组之间的代谢差异(即模式识别)并筛选出表征各组之间代谢差异的潜在的重要生物标志物(即变量选择)。近年来,分析技术平台的不断发展导致生成
学位
在金融市场中,波动率不仅是衡量风险的指标,它对衍生品定价和资产配置都至关重要,因而对于波动率的研究一直是金融研究领域当中的较为热门话题。在对波动率的研究上,一些学者采用了文本情感分析的方法,通过词频统计模型探究与波动率的关系。然而,词频统计模型因其无法联系上下语义的局限性,语义捕捉能力较差,降低对波动率的解释效力。此外,而在对波动率预测的研究上,之前的研究集中在对低频收益率数据拟合而成的GARCH
学位
在语言学的定义里,新词是指一个最近铸造的发明词或者词组,可能来源于新事物的产生、方言的吸收、简略词汇、外来语等。当今互联网时代下,大量的中文新词会在不同背景的碰撞下产生并借助网络的力量迅速传播开来。由于中文里没有明显的界限符,所以在英文中不存在的分词问题在中文里却是很重要的一步。未登录词是影响分词准确率的重要因素,新的未登录词及其变体层出不穷,依靠人力去构建词库费时费力,因而使用某些方法让计算机自
学位
在中央经济工作会议提出的“六稳”方针中,“稳金融”的底线是要求不发生系统性金融风险,并稳步推动金融市场的发展。商业银行作为核心金融机构,其信贷风险管理质量对金融市场的稳定有重大影响,特别是随着近年来中小企业的快速发展及其伴随而来的银行信贷资源需求与日俱增,中小企业的信贷风险管理逐渐成为商业银行信贷风险管理之重点。信贷风险评价体系作为商业银行信贷风险管理的基础性环节,直接关系到信贷风险管理质量。商业
学位
近年来,随着深度学习算法的效果变得越来越好,许多学者开始着眼于深度学习算法的稳定性。其中的一个方向叫对抗样本。对抗样本是指在原始数据上添加一个特定的噪声(噪声的比例越小越好,能被模型识别而不被人眼察觉)使得损失函数最大化,所形成的输入样本,会导致模型以大概率给出一个错误的结果。对抗样本的生成又被称为对抗攻击。现如今,深度神经网络已经成为了人们生活中不可或缺的一部分,人脸识别、语音转文字等都是日常生
学位
报纸
医疗搜索作为广大群众搜索场景下的刚需,是普通用户获取优秀医疗资源最为便捷的渠道。医药领域数据的爆发式增长给研究人员提供了丰富的知识,是重要的研究资源。医疗搜索的重点就是从海量庞杂的医药领域数据中快速高效地获取信息,而命名实体关系抽取就是文本数据处理工作中一项基础且重要的环节。在医药领域内,准确识别说明书中的禁忌症和适应症实体对于构建合理用药规则,构建完善的医药领域知识库有重要意义。但是,由于医药领
学位
多重检验是目前高维统计推断的领域中研究的热点之一,并在临床医学、基因检测、教育学等多领域中均有广泛的应用。同时对多个假设进行检验是多重检验的实质,它常常被用来对来自大量总体的某个参数或多个参数的水平进行比较。当多重检验中的一个假设被拒绝,我们通常希望对该参数构造置信区间,从而确定该假设对应真值的取值范围。我们将多重检验中被拒绝的假设对应的参数称为选择后参数,为选择后参数构造能控制FCR的置信区间也
学位
“碳标签”(Carbon Labelling)是一种将商品在生产、流通过程中排放的温室气体排放量,在产品标签上用量化指数标示出来的方法。全球已有11个国家正在积极建立“碳标签”制度。我国也已经形成了相关的团体标准和试点成果。“碳标签”的形成涉及产品生产、加工、流通过程中的多个环节,导致碳数据归集困难、真实性难以保障和易被篡改。为此,本文提出一种基于区块链和隐私计算技术,从供应链的视角构建“碳标签”
期刊
随着位置采集和移动通信技术的不断进步,每天有大量的轨迹数据被采集并收录,因此在过去的十数年中,轨迹数据挖掘工作进展迅速,而异常轨迹检测是其中很重要的一部分。目前中国的汽车保有量、销售量都位于世界前列,与此同时,国家重大专项中的车联网项目正在大力发展中,车辆轨迹数据是日常能接触到的最广泛、最普遍的轨迹数据之一。本文研究的问题是通过轨迹数据挖掘来进行轨迹异常检测,即使用一个地区车辆出租公司出租出去的车
学位