【摘 要】
：
随着边缘计算的发展,出现了越来越多高算力的边缘AI设备,相比于云计算集群,边缘设备具有低延迟、低能耗、低价格、体积小易部署、异构灵活性高等优点。同时,边缘场景下的任务复杂性也在不断提高,需要多种不同深度学习模型共同完成某项任务,因此边缘设备上通常需要同时部署不同模型,并发推理,由此出现了许多值得研究的问题。本文首先测试了不同轻量级深度学习模型在不同边缘设备上并发推理的性能降级和功率,发现了各种异构
论文部分内容阅读
随着边缘计算的发展,出现了越来越多高算力的边缘AI设备,相比于云计算集群,边缘设备具有低延迟、低能耗、低价格、体积小易部署、异构灵活性高等优点。同时,边缘场景下的任务复杂性也在不断提高,需要多种不同深度学习模型共同完成某项任务,因此边缘设备上通常需要同时部署不同模型,并发推理,由此出现了许多值得研究的问题。本文首先测试了不同轻量级深度学习模型在不同边缘设备上并发推理的性能降级和功率,发现了各种异构的边缘设备对于不同模型的并发适配性和规律性,进而提出了一种整数线性规划方法,在价格预算和边缘卡槽数量的约束下,最大化板卡对具体模型的并发能效收益,优化边缘设备选择及模型部署问题,在具体模型和各种板卡上的优化结果也体现了该种优化方法的有效性,以及在性能和功耗上的可折中性,为边缘异构提供了理论依据,体现了边缘异构的优势。在搭建好边缘集群并部署好各种模型后,为了满足边缘推理的高吞吐和低延迟需求,随之而来的便是异构边缘集群中混合任务的调度问题,为此本文提出了一种基于强化学习的调度算法,使用实际运行时测得的后验结果作为学习样本,根据每次调度中各个任务的性能降级结果自动学习设备间的差异性,达到异构感知的效果,进而推理出当前状态下最优的调度决策,我们通过实验验证了其有效性;在我们的架构中还补充了云端卸载机制,解决边缘推理精度不足的问题,在不同置信度阈值下的延迟增长也反映出了云端卸载的代价之大,要尽量避免任务上云。
其他文献
随着服务计算的发展,越来越多的分布式服务资源聚合形成服务互联网（Io S）,为用户提供复合服务解决方案来满足用户的需求。这一过程伴随着用户、服务提供者和Io S平台之间服务资源的密集交易,因此对服务资源进行可靠的治理以保证服务交付的质量、可信度和可靠性具有重要意义。在现实世界中权属的保护具有重要意义,如财产的所有权、某项发明的知识产权等,这是维护个人权益的重要保障。同理,在Io S平台服务资源交易
全面建设社会主义现代化强国,向第二个百年奋斗目标不断发展,必须充分发挥中国独特的制度优势。改革开放40多年以来,特别是党的十八大以来,我国社会主义现代化建设取得了历史性成就,这主要依靠于党领导下的全面深化改革所形成的巨大制度优势,为此应更加深刻认识到发挥制度优势、促进经济社会发展的重要性。在新时代的历史方位下,百年变局和世纪疫情交织叠加,各种矛盾日益凸显,因此,系统、全面地研究改革开放以来社会主义
减振降噪技术的应用增加了潜艇水下航行的隐蔽性,因此发展对水下航行体的非声探测机制成为各国大力发展的方向。本文针对潜艇水下航行所产生的尾流及其海面映波,结合海面波雷达成像及声学多普勒原理,对潜艇尾流及其海面映波的探测方法及目标特性进行了仿真研究。首先,对全附体潜艇的流场与海面映波进行了数值模拟。分析了潜艇附体旋涡结构及其空间演化规律,给出潜艇周围的马蹄涡、艇艉复杂涡结构及梢涡等结构对桨盘面流场的影响
随着通信技术的不断发展,人们对于通信系统性能提出了越来越高的要求。极化码（Polar codes）是目前已知唯一的通过严格数学方法证明达到信道香农限的信道编码。将Polar码应用于多址接入场景,可以利用码字资源实现同时同频的多用户信息区分,并可以有效提升系统可靠性。据此,本文围绕两用户Polar码多址接入系统展开研究。首先,研究Polar码的相关理论,包括二进制Polar码和基于伽罗华域GF（）非
大规模多输入多输出（Multiple Input Multiple Output,MIMO）技术和毫米波通信技术作为新一代移动通信的关键技术,利用大规模天线阵列的复用增益和毫米波丰富的频谱资源,能够有效提升系统容量,实现超高速率、超低时延的数据传输。大规模MIMO技术与毫米波通信技术的结合,不仅能够克服毫米波高路径损耗的缺点,而且能够降低大规模天线阵列集成的难度。此外,与传统数字预编码和模拟波束赋
在传统的汽车、家具等行业中大多通过人工喷涂的方式完成喷涂作业。喷涂过程中会产生大量有害物质,长期处于这种喷涂环境,进行重复度较高的喷涂作业,对工作人员的身心健康带来巨大伤害。喷涂机器人的实现可以替代传统人工喷涂,然而,喷涂机器人一般只能在固定的工作环境下进行单一、重复的喷涂工作,柔性工作能力差。为解决这一问题,建立具有目标检测功能的手眼系统。使用基于深度学习的目标检测方法,实现对被喷涂物体和机械臂
这些年移动通信技术正蓬勃发展,研究空天地一体化通信网能促进实现广域全覆盖及网络互联互通,具有重要意义。星地通信网空口融合作为其中的重要组成部分被人广泛讨论,空口技术需要同时适配地面信道和卫星信道。新近提出的正交chirp分复用技术（Orthogonal Chirp Division Multiplexing,OCDM）具有抗多径干扰、抗多普勒拓展特性,且可兼容到现有OFDM系统,可作为空口融合的候
随着人类社会在政治、经济和军事等领域的飞速发展,人类的活动范围也在不断扩大,同时对导航知识的发展也提出了越来越多的要求。传统的导航定位方法有着穿透性弱、工作需要视距条件或者工作时会产生累积误差等劣势,在地穴、隧道或矿井等地下环境中的定位误差较大,甚至无法被应用。低频磁信标定位系统具有强穿透性、强鲁棒性、高稳定性以及抗干扰性,且工作时不需要视距条件,不会产生多径效应,能够在不产生累积误差的前提下提供
目的：观察蔓性千斤拔素D对大鼠胶原诱导型关节炎（CIA）的作用并探讨其作用机制。方法：将40只大鼠随机分为正常组、CIA组、甲氨蝶呤（MTX）组(1.35 mg·kg-1·w-1)、蔓性千斤拔素D低剂量组(1.5 mg·kg-1)以及蔓性千斤拔素D高剂量组(3.0 mg·kg-1)，每组8只，除正常组外，其余均采用Ⅱ型胶原诱导CIA模型。给药组通过灌胃给予相应药液，正常组给予相应体积生理盐水，MT
党的十九大上,中央提出了乡村振兴战略,对农村更美、农民更富、农业更强提出了更高的期望与要求。农村电子商务直接扎根于农村服务于三农,有效推动“三农”发展,在乡村振兴背景下扮演着越来越重要的角色。各地政府对扶持电商发展路径进行了大胆尝试,有效推动了农村电商产业发展。近年来,基层政府在推进农村电商发展过程因受经验缺乏、治理能力不足等因素,农村电商治理问题逐步凸显,农村电商参与的多方主体间矛盾逐步显现,对