边缘计算设备中神经网络适配及其手写体识别

来源 :南京邮电大学 | 被引量 : 0次 | 上传用户:loganmax
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着复杂的AI和机器学习应用程序在边缘计算设备上应用需求的增加,支持微型机器学习的技术方法正在不断涌现。原先的研究人员持有这样的观点:对于小样本一般不建议使用深度学习算法,但是现在有关研究人员开始认为小样本学习也具有潜在的适用场景,例如优化后的机器学习(Machine Learning,ML)能够部署在边缘计算场合,从而有效地实现边缘智能。在边缘计算场景下,尽管设备可以把采集的数据送到数据中心进行训练和获取深度学习的模型,但是这依然受到很多约束,如推理时设备的内存、设备的计算能力和通信时延。通过合理选择规模量化方案以及定点与低精度整数运算,压缩后的神经网络模型的性能将在边缘应用中接近浮点运算设计的性能。在探讨神经网络规模压缩基础知识和微型机器学习等方法之后,本文将重点讨论在边缘计算设备的神经网络适配,即一种微型机器学习和神经网络的规模压缩。基于上述思想,本文第一个工作提出了一种适合边缘设备的分布式训练架构和一种包含8比特量化的前馈神经网络优化设计。它可能便于在多个设备上进行微型的、快速的分布式训练和推理以及降低总的网络延迟。其次,本文第二个工作构建一个浅层卷积神经网络。通过使用Pytorch中的模型压缩的应用程序接口(Application Programming Interface,API),我们实现了该案例权重量化。在手写体数据集MNIST和CPU配置下的实验结果显示,8比特量化设计导致的性能损失小于1%。由于对深层卷积神经网络的量化和压缩是网络规模量化与压缩的主要内容之一,本文第三个工作将概述深层卷积神经网络量化方面的最新文献。最后,在CIFAR10数据集上评估了基于混合量化的压缩案例,GPU配置下实验结果也显示量化设计导致的性能损失很小。
其他文献
西安弓背崖遗址位于关中平原地区。配合田野考古发掘,获得了一批仰韶、东周和秦汉时期的浮选样品,其中又以仰韶和东周时期的样品为典型。浮选发现了包括粟(Setaria italica)
科技日新月异,电子信息技术走进千家万户,使人们的沟通变得越来越及时与高效。移动通信工具的使用也正在改变着人们的工作方式,它不仅有效促进组织间成员的沟通,提高工作效率,同时也模糊了个体的工作和非工作界限。只要有需要,在非工作时间员工就能通过移动通讯工具处理工作,导致工作时间逐渐渗透到非工作时间,使得其生活与工作难以分离,甚至保持“24小时在线”。员工为了能提高工作效率,不得不消耗自身资源,假若资源没
近年来,基于紫外光活化自由基的类芬顿高级氧化技术受到了广泛关注,该技术可以有效去除污水中难降解的有机污染物。二级生化出水有机物(Effluent Organic Matter,EfOM)是城市
自20世纪90年代APEC成立以来,亚太地区经济发展日新月异,受到世界瞩目。推动全球多边贸易体系的建立,实施贸易一体化,推进亚太经济技术合作和基础设施建设,已成为亚太地区各
目的:野生毒蕈中毒在临床上少见但具有高致死率。本研究的目的是分析野生毒蕈中毒所致急性肝损伤患者的死亡因素,并探究用于预测野生毒蕈中毒患者预后的评分系统。方法:收集2
以人类命运共同体的生存价值观、社会价值观、政治价值观等共同价值引领全球胜任力教育,克服全球治理失衡、国际产物与本土文化的冲突、内在动力与外在环境的制约是全球胜任
军队一直以来都承载着国防教育与民族安全的重要使命,是国家进行军士人才培养的重要基地,我国在打造过硬军事技能、提高军人思想政治素质与凝练中国精神方面做出了巨大的努力。入伍新兵由于生活场域发生了变化,从日常生活中比较自在、自由的生活情况,转向军队更强调纪律性、规范性的场域,因此会存在军队适应问题,例如日常生活习惯的不适应、训练强度的不适应和人际关系的不适应等,甚至因为失望或者厌烦出现退兵的情绪。社会工
南昌起义是中国共产党人在极度危机关头挽救革命的壮举,开启了中国革命的新纪元。南昌起义从提出动议到最后决策这一曲折过程,展现了以周恩来为代表的中国共产党人面对深重危
<正>千里之堤,毁于蚁穴。激励机制是金融机构实现经营目标的重要手段,激励不当会导致行为扭曲,使得相关金融监管规定止步于"最后一公里",损害消费者合法权益及其对金融机构的
目的:探讨巨噬细胞刺激蛋白/酪氨酸激酶受体RON(MSP/RON)信号通路在LPS诱导的树突状细胞成熟过程中的作用以及可能的分子机制。方法:体外培养C57/B6小鼠骨髓诱导的树突状细胞