【摘 要】
:
随着万物互联的发展,边缘计算作为一种新的计算模式,能够弥补传统的云计算模式难以应对网络边缘产生的大量数据以及越来越高的延迟需求的缺点。近些年,随着人工智能第三次浪潮的推动,基于深度神经网络的应用程序在工业和社会上得到了越来越多的应用。边缘计算和人工智能的碰撞产生了“边缘智能”。在边缘智能中,加速模型推理一直是研究热点,其中模型分割作为一种新颖的技术,能够有效地减少深度神经网络的推理时间,但是在不同
【基金项目】
:
2020年安徽省科技重大专项:基于边缘计算的公共交通出行安全保障系统研发及产品,项目编号:202003a05020009;
论文部分内容阅读
随着万物互联的发展,边缘计算作为一种新的计算模式,能够弥补传统的云计算模式难以应对网络边缘产生的大量数据以及越来越高的延迟需求的缺点。近些年,随着人工智能第三次浪潮的推动,基于深度神经网络的应用程序在工业和社会上得到了越来越多的应用。边缘计算和人工智能的碰撞产生了“边缘智能”。在边缘智能中,加速模型推理一直是研究热点,其中模型分割作为一种新颖的技术,能够有效地减少深度神经网络的推理时间,但是在不同的神经网络模型上使用模型分割和在复杂的边缘场景中使用模型分割技术是面临的两个难点。针对该问题,本文首先研究了在不同神经网络模型中使用模型分割的具体方法,然后研究了在复杂边缘计算场景中使用模型分割技术来减少基于深度神经网络任务的时间延迟,主要讲究工作包括以下几点:1.首先考虑了纯线性神经网络模型的最佳模型分割方法,然后考虑了子图的神经网络模型分割方法,使用图的s-t最小割思想,对神经网络中的子图进行处理。最终提出了考虑子图的模型分割方法NSC(Neurosurgeon of Subgraph Considered),通过在不同神经网络模型上的验证,验证提出的模型分割方法能比仅在终端设备上计算、仅在服务器上计算和不考虑子图的分割方法有更好的结果。2.针对复杂的边缘计算环境,考虑异构的边缘服务器、多设备、多任务的场景,在使用模型分割技术的前提下,以优化所有任务平均任务时间消耗建立数学模型。在数学模型中,特别考虑边缘服务器上的任务等待队列,以及任务等待时间。然后提出通过PPS(Partition Points Selection)算法减少解空间,接着使用贪婪策略和渐进式搜索的方法,提出了一种联合任务分配和模型分割的算法GSPI(Greedy Strategy for the Progressive Inference)。3.针对现实场景,基于GSPI提出了一种符合实际的在线算法。使用实际的机器数值作为仿真的初始数据,最终验证所提出的框架与算法能比传统的模式节约30%以上的时间消耗。综上所述,本文提出的NSC算法对于包含子图的深度神经网络模型分割有着不错的效果,GSPI算法和对应的在线算法对于复杂边缘情况下模型分割和任务分配有着优秀的表现。
其他文献
新型半导体材料钙钛矿由于其具有直接带隙且带隙可调、吸光系数高、载流子迁移率高等特点,近年来一直是光电器件研究领域的研究热点。对钙钛矿进行形貌调控是诸多研究方向中的一个,研究证明,钙钛矿纳米线结构具有光学上的各项异性,光生载流子在径向传输受到限制而沿轴向高效传输,这拓展了该材料的应用场景且有利于改善基于钙钛矿材料的光电器件的电荷传输。考虑到光电器件的集成化,钙钛矿纳米线的合成需要以一种经济、大面积、
肿瘤微环境(TME)具有弱酸性、过氧化氢(H2O2)和谷胱甘肽(GSH)过表达、过氧化氢酶活性低和缺氧等特点。化学动力学疗法(CDT)是一种针对TME的新兴抗癌策略,因其高治疗特异性和低侵袭性的优点而得到广泛的研究,在CDT过程中,肿瘤内源性的H2O2在金属催化剂(如Fe、Mn、Cu、Co等)的作用下,通过Fenton反应或类Fenton反应分解生成羟基自由基(·OH),·OH是危害最大的活性氧(
椭圆曲线密码算法作为一种公钥密码算法,具有安全性高、占用存储空间小等优点,在信息安全领域得到了广泛的应用。为了保障信息安全,密码安全等级、密钥位宽的不断增加,造成了椭圆曲线点乘和有限域运算复杂度成倍增长,影响了计算平台处理椭圆曲线密码算法的性能。另外,随着网络带宽的不断提升,对计算平台的处理性能的要求不断提升,FPGA作为一种半定制专用集成电路,具有并行度高、灵活性强的优点。因此,本文基于FPGA
常微分方程的初值问题广泛应用于各领域的事物变化规律和运动现象的描述中。随着对客观世界认知深度和广度的增加,实际工程应用中的微分方程结构日趋复杂化,软件实现方案已经无法满足部分应用对计算量、计算速度和精度有非常严苛的约束。因此研究微分方程的数值解计算问题的硬件设计与实现有着非常重要的实用价值和应用前景。目前,在微分方程初值问题数值解实现技术的前沿研究领域,国内外学者对多倾向于在现场可编程门阵列(Fi
近年来,太赫兹技术的高速发展离不开太赫兹功能器件的有力支撑。与此同时,太赫兹功能器件对太赫兹系统性能的提升起到极其关键的作用。然而,目前的太赫兹功能器件由于受到传统材料性能与结构的限制,其器件性能难以进一步提高。基于人工微结构的太赫兹功能器件为实现高性能的太赫兹器件提供了新的思路和途径,进而为太赫兹技术的广泛应用奠定基础。因此,本文提出并研究了基于人工微结构的太赫兹柔性线栅结构极化器、柔性花瓣型带
天线作为一种发射和接收电磁波的转换器,是无线电通讯系统中非常重要的组成部分。圆极化天线因抗雨雾干扰和多径效应效果显著,且具有旋向正交性、电离层穿透能力强、受地球两极磁场法拉第效应影响小等优点脱颖而出。其中,微带天线剖面低、尺寸小、易于实现多类极化等特性使之成为了设计圆极化天线的主要选择,但一般的圆极化微带天线工作带宽较窄。同时,宽带天线的出现则满足了无线电通讯对系统容量以及信息传输速率的要求。为了
随着5G通讯,天地一体化网络,高精度成像等领域的快速发展,电子系统对多波束、大带宽、低延时的要求越来越高,因此,有源相控阵技术成为研究热点之一,其应用也越来越广泛。本地振荡器和移相器作为有源相控阵系统中的关键元器件,对相控阵系统的性能有着重要影响,因此本文着重对本地振荡器和延迟线进行了研究,降低了本地振荡器的相位噪声,缩小了延迟线的电路面积,有效的降低了相控阵射频前端的体积,提升了射频前端的性能。
我国每年产生的动物粪便中约40%以上未得到充分利用,造成严重的资源浪费和环境污染。厌氧消化是一种经济高效的处理大量畜禽废弃物的方式,但存在有机物水解反应速率慢、产甲烷效率低等问题。因此,如何解决提高厌氧消化速率以及开发新型高效的厌氧消化工艺是目前发展的焦点。向厌氧消化体系中投加生物炭的方式是常用的工艺手段之一,但产甲烷效率仍有提升空间。本研究利用铁改性生物炭,开展了复合材料对牛粪厌氧消化产气性能和
细菌感染已成为当今世界人类健康的一大威胁。传统抗菌手段是采用抗生素杀菌,然而传统抗生素的长期使用不仅会导致药物疗效下降,还会导致细菌耐药性不断增强。因此,开发不易产生耐药性的新型抗菌策略迫在眉睫。近年来,纳米酶(Nanozymes)凭借广谱抗菌性及可忽略的生物毒性被称为“新一代抗生素”。然而,固有的低催化活性导致单独的纳米酶疗法无法实现较为彻底的杀菌,从而限制了它在抗菌领域的应用。另外,光热疗法(
随着物联网的普及,用户设备群增多,通信的流量需求快速增长。这使得人们日益增长的通信需求和通信系统的最大容量之间的矛盾日益凸显。如何进一步提高无线通信的信道容量成为迫切需要解决的问题。作为未来6G关键性技术之一,智能反射面(Intelligent Reflecting Surface,IRS)协助无线通信技术被认为是一种能提高通信数据速率的有效方案,该方案不仅可以提高系统通信数据速率而且能大幅减少硬