基于多模态信息融合的目标识别研究与实现

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:q258007
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
现有的目标识别技术大多采用单一的目标图像数据。然而在现实环境中,图像往往不是唯一的目标信息来源,目标的属性数据、语义描述等文本数据也是判别目标特征的重要依据。融合多模态信息的目标识别可以利用各自模态的优势,改善单一模态下的目标特征缺失等问题,从而提高识别精度。一方面,多模态目标识别属于分类任务,需要对目标进行跨模态特征建模,以融合多模态的数据信息。然而,多模态数据为异构信息,存在语义偏差、模态不平衡等问题,导致多模态数据的融合面临挑战。另一方面,在细粒度的零样本识别任务中,通常利用未知目标类别的辅助文本信息,联合已知类别的图像信息进行判别,如何建立视觉和语义特征的有效映射关系是零样本识别的关键。本文围绕上述两个方面的任务,对多模态分类算法和细粒度零样本目标识别算法进行了研究。本文主要工作如下:1.针对多模态数据易嘈杂、模态强弱不一致、模态融合困难等问题,提出了一个基于跨模态注意力的多模态分类模型。通过序列注意力的多模态融合增强模块,改善图像和文本间的特征对齐。同时,构建了一种跨模态注意力模块,使得模型自适应地学习各模态的权重,提升了模型的鲁棒性。2.针对细粒度零样本识别中目标特征尺度不一、视觉语言特征空间偏差等问题,提出了一个融合多尺度视觉特征的密集注意力目标识别模型。通过多尺度视觉特征提取方法,优化了图像文本间的属性级特征关联。此外,构建了一种文本增强的属性文本特征嵌入方法,扩充了属性文本特征,从而提升细粒度零样本识别的精度。3.设计并实现了一个面向鸟类的多模态目标识别系统。该系统采用Spring Boot和Vue等框架搭建,将本文提出的目标识别模型运用于细粒度的鸟类数据集CUB上,实现了对目标数据预处理、模型参数配置、调用模型算法进行评估验证等功能。
其他文献
目的:总结分析药品管理规定在急诊科高警示药品规范管理中的应用效果。方法:医院不同时间段急诊科高警示药品管理中采取不同方法,其中2016年实施常规高警示药品管理,为实施前;2017年高警示药品中应用药品管理规定,为实施后。比较实施前后不良事件发生率、药品报废率、护理人员急救药物理论知识与实践操作评分等。结果:实施后不良事件发生显著低于实施前(P<0.05);实施后药品报废率低于实施前;实施后护理人员
学位
文章简要论述了信息化背景下现代建筑工程管理优化的必要性,分析总结了信息化背景下现代建筑工程管理现存的主要问题,并结合目前建筑企业管理工作的实际,提出了信息化背景下现代建筑工程管理优化的策略。
<正>1新一轮畜禽遗传改良计划实施背景2021年7月9日,习近平主席在中央全面深化改革委员会第二十次会议上讲话,实现种源自主可控,农业现代化,种子是基础,把种源安全提升到关系国家安全的战略高度,集中力量破难题、补短板、强优势和控风险,实现种业科技自立自强、种源自主可控。大会通过了《种业振兴行动方案》。行动方案包括5大行动,资源保护、创新攻关、企业扶优、基地建设和市场净化。新中国成立后,
期刊
检察文化是与"检察"有关的文化,是中国特色社会主义文化的重要组成部分,加强检察文化建设,是适应新形势新要求、推动检察工作高质量发展的重要保障,是强化队伍整体素质、提升检察机关执法公信力的重要途径。作为检察机关的中坚力量,基层检察院不仅承担着绝大部分的办案任务,在检察文化建设中,也起着举足轻重的作用,然而,在推进中国特色社会主义现代化建设的进程中,尽管基层检察文化建设取得了一定成绩,但是由于对检察文
为明确羊乳粉、牛乳粉的热学特征,采用差示扫描量热法(differential scanning calorimetry,DSC)对真空冷冻干燥制备的全脂羊、牛乳粉样品以及高比例掺假(75%、50%、25%)和低比例掺假(10%、5%、3%、1%)牛乳粉的混合羊乳粉样品进行热力学分析。结果表明,全脂羊乳粉和全脂牛乳粉在DSC热学指标上存在差异,全脂牛乳粉相比全脂羊乳粉缺失一个脂肪特征熔融吸热峰b,蛋
由于超维算法在字典建立过程和三维重建过程都涉及到大量的模式匹配,导致超维算法耗时较长,在实际的应用中还有一定难度.针对这个问题,本文提出了一种基于孔隙度分类的超维重建算法,能够较大程度上减少三维重建的时间成本.首先,结合字典元素的孔隙度这一特征对字典集进行分类;其次,利用孔隙度分类字典在重建时采取依孔隙度的搜索方式,优先搜索相应的字典区间;然后,针对不同的训练图像进行三维重建,结合孔隙度分布,提出
依据《食品安全国家标准食品中亚硝酸盐与硝酸盐的测定》(GB 5009.33—2016)第二法分光光度法测定乳粉亚硝酸盐的加标回收率普遍偏低,影响测定结果准确性。本文通过探索、优化提取过程,发现每10 g样品称样量中各添加8 mL蛋白沉淀剂时,可以显著提高提取效率;且当称样量≥3 g时,称样量的减少可以有效降低乳粉中基质颜色对吸光度测定的影响,从而提高分光光度法测定乳粉中亚硝酸盐的回收率。