基于分布一致性约束的卷积神经网络迁移学习

来源 :上海交通大学 | 被引量 : 0次 | 上传用户:xurikeji
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着深度学习的发展,各种应用场景的出现。如何将优秀的卷积神经网络模型或算法应用到实际场景中,成为了当下普遍的难题。首先,具有优秀表现的网络虽然在标准大数据集中具有非常好的表现,但是却难以直接应用于复杂的实际环境中。其次,在复杂的应用环境中收集大量的数据需要大量的时间成本、人力成本和设备成本。模型算法的好坏不仅有数据量的约束,而且在应用场景中也有设备可移动化等硬件限制。与此同时,这些移动设备的计算能力相当有限,不能保证复杂卷积神经网络的计算实时性,设备的储存空间也不允许复杂网络庞大的参数量。综合上述在第一章解释的相关问题,本文在第二、三章提出了一套综合的解决方案。尝试通过建立分布一致性约束,将源数据集中的知识运用到目标场景中,帮助目标场景建立模型。此外,在模型知识迁移的过程中,框架解决了目标环境下缺少数据和数据难以标注的问题。整套解决方案建立在卷积神经网络之间的特征空间分布一致性约束上。该方法通过用小型化的卷积神经网络拟合复杂网络的表现,来建立迁移学习框架。此外还在各种标准数据集中进行应用。在多重实验的反复论证与实际使用当中,充分验证了基于卷积神经网络的分布一致性约束的知识迁移框架具有有效性。我们利用提出的框架,分别解决了现实应用中的若干问题。在第四章中,如近红外人脸识别算法更新、人脸人证离线对比、服务机器人寻物等实际问题。同时,我们证明了该框架具有训练快收敛快的特性。在第五章中,我们加入了增量式物体识别在分布一致性约束框架下的设计与论证。本文的工作从三个方面进行:首先通过理论和基础实验的论证,证明了分布一致性约束框架的可行性与有效性;接着通过人脸识别的诸多领域问题,细致地解决了近红外人脸识别与人证对比领域的难点痛点;最后,通过扩展分布一致性约束框架,使其应用于服务机器人的寻物任务当中,并在极小模型和少量类别的约束下获得了可接受的识别率与正确率。
其他文献
唐代"试判"主要用于铨选,过去在"科举与文学"语境下的相关研究,往往并不涉及;但从更宽广的"取士"概念上说,铨选亦在其中,故试判也是"取士文学"的重要文体。理论上说,唐人凡参与铨选者
国内外家政学一百多年的发展历史启示我们,现阶段我国家政学必须超越简单模仿西方的初级阶段,实施本土化研究。现阶段我国高校家政学本科专业人才培养目标,定位应是家政企业
摘 要:澳大利亚作为世界上传统留学目的国,一直以其丰富的教育资源和多元文化受到世界各地留学生的欢迎。本文分析了中国学生赴澳留学的主要原因,以及澳大利亚关于国际教育的相关政策及发展趋势,以期对中国国际教育发展提供借鉴意义。  关键词:澳大利亚;留学生;国际教育  一、赴澳留学概况  澳大利亚作为传统的国际教育大国,在全球国际教育舞台上扮演着重要角色。根据“澳大利亚国际教育”(Australian E
结构的动态特性参数是研究其振动特性的重要参数,为结构系统的动力学分析、故障诊断及预报以及结构动力特性的优化设计提供依据。当前,针对时不变系统的动特性参数识别方法多
本文主要阐述如何激发学生的创造力和灵感,更好地完成Flash动画制作。笔者在描述教学现状的基础上提出问题并进行分析。
在知识信息化、互联网技术大量应用背景下,微课、慕课对传统课堂教学模式形成巨大冲击。本文分析了基础物理教学的现状,通过对理论和实验教学的具体实例进行分析,探讨了翻转
进入21世纪以来,新能源发电技术在国家的重点扶持下步入快车道,尤其是微电网技术得到了快速发展。然而,如今的微电网技术发展还不是很成熟,在许多关键技术领域还存在问题,如并网/离网控制,并/离网模式切换,储能系统控制等。储能系统控制作为微电网的核心关键控制技术之一,合理有效的利用储能系统不仅可以改善电能质量,提高经济效益,还可以在用电负荷高峰期和低谷期进行电力调度达到抑制电力系统的振荡提高整个系统稳定