面向边缘计算的深度学习模型优化技术研究

来源 :国防科技大学 | 被引量 : 0次 | 上传用户:hitlic2009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着5G技术逐渐成熟及其商业应用产品慢慢普及,原本发展了数年的边缘计算进一步成为了研究热点,将人工智能技术与边缘计算领域融合更是引起了研究者们的强烈兴趣。但是,内存消耗型和计算密集型的深度学习算法与资源匮乏型的边缘终端硬件形成巨大冲突。本文针对边缘计算与深度学习的融合需求,将只有8KB内存的微型开发板作为研究和移植目标平台,深入分析了模型压缩、模型拆解、自动编码和模型存储关键技术,并在此基础上提出和实现了模型转换和移植集成系统。本文主要研究内容及其创新包括:(1)提出深度学习模型参数提取和自动填充方法。采用模型拆解方法对模型中的参数进行抽取,为深度学习模型摆脱环境变量和依赖函数库打下基础,然后对模型参数类型和数量进行识别和分类,形成参数字典方便参数自动填充,为后续模型转换提供数据支撑。(2)提出统一模型转换移植系统MoTransFrame。通过深入分析深度学习分类算法的计算过程,采用“自动编码”方法对提取的模型参数字典按照分类规则重新编码。根据初始网络计算图输出适配资源匮乏型边缘设备的分类模型。MoTransFrame构建了统一的模型转换集成系统,为深度学习模型移植到资源受限边缘节点提供了一个可行方案。(3)提出了基于边缘节点存储需求的模型存储优化方法。针对Arduino设备提出多类型存储介质结合的存储方法,达到了最大化利用边缘设备有限存储资源的目的。通过地址绑定方法对模型进行读取和存储,该方法在节约内存空间的同时也保障模型存储的完整性和推理的正确性,使得移植后的模型可以在边缘终端准确无误运行。
其他文献
受限于高中教学课时、安全风险及新冠疫情等因素,户外远距离开展研学活动以培养学生的地理实践力较为困难。本文以重庆南山风景区为研学活动基地,依托基地的研学资源,从研学设计思路、研学主题及目标设计入手,围绕“初识南山、探秘南山、造化南山”三大主题进行研学内容、研学任务、活动实施及评价的系统设计。该设计方案有利于提高学生的地理调查与考察能力,增强学生地理实践力。
近年来5G技术发展成熟,移动设备中相机配置越来越高,人们更愿意拍摄视频上传到网络上,互联网上视频数量持续急速增长,因此迫切需要高效的视频处理方法来满足海量视频处理的需求。视频分类技术是根据视频中内容自动判断视频所属类别的技术,是视频处理领域的重要组成部分,是计算机视觉领域的基础研究课题,对视频分类技术进行研究是必要的,同时视频分类技术也可以被广泛应用到生活中的各个领域,所以对视频分类任务的研究正在
在这个计算机、通信发展迅速的年代,人们接触到的文本、视频、音频,包括图像等多媒体信息越来越多。通过互联网,人们正在一步一步的实现全球多媒体信息的共享。用户对多媒体信息的查询也变得越来越普遍。各种新的应用需求也随之而来。跨媒体检索技术,指的不同模态之间可以相互交叉检索的检索方式,即通过某一种模态的实例检索出与之语义相关的其它模态的样本。跨模态检索到的结果与单模态相比,内容丰富,能将查询对象更加立体地
近几年,在计算机视觉领域,目标跟踪问题成为研讨热点之一。视频单目标跟踪是计算机视觉的重要研究课题,在视频监控、机器人、人机交互等方面具有广泛应用。作为计算机视觉领域的关键问题,单目标跟踪算法可以根据在连续图像序列中的跟踪信息,绘制给定物体的轨迹信息,方便后续进行行为分析和异常检测。大数据时代的到来及深度学习方法的出现,为视频目标跟踪的研究提供了新的契机。因此,单目标跟踪问题具有重要的理论意义和研究
视频目标分割是计算机视觉的重要研究内容,在视频监控以及人机交互等领域具有广阔的应用前景。随着深度学习在视频目标分割任务上取得重大突破,如何将性能优异的视频目标分割模型快速应用到实际的监控场景中,已经成为建设智慧城市、维护公共安全的迫切需求。本文针对实际应用场景下的视频目标分割问题,着重解决在实际应用过程中进行快速准确的视频目标分割,论文的主要创新点包括以下几个方面:(1)提出了一种基于目标注意力机
当前随着深度学习研究的日益深入,深度神经网络算法在数字图像处理、语音识别、自然语言处理等诸多领域崭露头角,呈现出很好的发展态势。三维卷积神经网络是深度神经网络的一个分支,相比普通的神经网络,它可以适应更高维度、更复杂的数据处理,比如视频分类、医疗图像分割、点云数据处理等。三维卷积神经网络的优秀性能已经得到了公认,但其巨大的计算量和数据量也限制了其推广应用,因此研究三维网络的硬件加速方法成为了一种必
近来几年,由于有监督的深度学习技术飞速迭代进步,很大程度地推动了人工智能应用的发展[1]。基于大规模有标注数据集[2]的出现,才有了有监督学习的深度学习的发展。但是由于手工标注数据集既昂贵又耗时[3]、数据集标注错误难以避免、标注时需要面向领域的专业知识、原始数据质量参差不齐,这些问题严重制约着高质量标注数据的产生。因此,面向实际场景的数据集标注,具有极强的现实意义和研究价值,是一个亟待解决的问题