【摘 要】
：
随着深度学习的快速发展,模型大小也随着增长。由于计算机视觉算法落地部署实时性的需要,移动端推理需要具有快速计算的能力和节省能耗的需求,模型压缩的研究与应用也随之而生。模型量化是用于深度神经网络模型压缩的有效策略,低比特定点运算在提高推理速度方面具有巨大潜力。但目前而言,开源推理框架所广泛应用的量化方法在模型量化到低比特时,量化模型的精确度相较于浮点模型仍有不小的差距。为了尽可能的弥补量化深度神经网
论文部分内容阅读
随着深度学习的快速发展,模型大小也随着增长。由于计算机视觉算法落地部署实时性的需要,移动端推理需要具有快速计算的能力和节省能耗的需求,模型压缩的研究与应用也随之而生。模型量化是用于深度神经网络模型压缩的有效策略,低比特定点运算在提高推理速度方面具有巨大潜力。但目前而言,开源推理框架所广泛应用的量化方法在模型量化到低比特时,量化模型的精确度相较于浮点模型仍有不小的差距。为了尽可能的弥补量化深度神经网络所带来的精度损失,本文在几个计算机视觉算法上进行了量化算法的研究。本文进行模型量化算法实验的主要方向为基于微调的量化方案。在计算机视觉算法的选择上,选取国内外量化算法研究中较少应用的轻型分类网络SQUEEZENET v1.1和目标检测网络YOLO v2-SQUEEZENET v1.1。在量化深度神经网络到较低比特时,采用增量量化作为训练的Tricks,具体为分层量化和两步量化的结合,以尽量挽回量化所带来的精度损失。在相关滤波器跟踪算法CCSK上发现二维傅里叶变换方法的结构也是可以应用量化方法思想的。在证明了复数矩阵运算也可以采用模型量化的定点化思想后,采用量化算法RISTRETTO和IAO对二维傅里叶变换方法进行量化。在本文的实验中,对当前国内外基于微调的量化方法进行调研和提炼,尝试将量化的流程变得简洁,但仍旧保持着不错的精度。从最后的实验来看,轻型网络SQUEEZENET v1.1和目标检测网络YOLO v2-SQUEEZENET v1.1的量化效果都损失精度较小。在单目标跟踪算法CCSK上也完成了初步的定点化测试与应用。
其他文献
近些年,有关集合的Assouad维数的研究工作越来越多,国内外许多学者研究并计算了某些特殊集合的Assouad维数。本文主要研究了一类推广的数字限制集,并且计算了它的Assouad维数。结论如下:集合Es,（?）为由A定义的数字限制集,S是正整数集N的子集。（?）m∈N,Wm={ω1ω2…ωm:ωk∈{1,2}若k∈S,ωk=1若k（?）S,1≤k≤m},如果词ω=ω1ω2…ωn,v=v1v2…v
本文研究薛定谔方程的逆问题中位势项p（x）的唯一性问题,研究的方程如下所示:（?）给定解在内部区域U（?）Ω的性态后,不但得到了位势项p（x）的唯一性,还得到了解关于位势项的连续依赖性.在研究方法上,本文主要是通过将方程进行偶延拓后再结合内部Carleman不等式的结果,同时利用中端时刻控制,证明了位势项的唯一性.首先,我们给出薛定谔算子在非退化权下的内部上的全局Carleman估计的结论,并详细
地学中的范畴空间变量存在着复杂的空间变化特性,如土壤类型、土地覆盖／利用类型、岩相等。每个范畴除了自身复杂相关特性外,范畴间也存在复杂的交互相关特性。 为了描述这个空间相关特性,传统的方法常使用马尔可夫转移概率矩阵或指示地统计学中的指示变异函数。虽然被证实是有效的,但是在一些方面这些方法存在着局限性：一是可能导致一些空间相关信息被掩盖,二是缺乏直观感觉。 近年来,随着马链地统计学和与之
铜基合金涂层由于具有高的导电性和导热性以及良好的可加工性被广泛应用于工业中,但在极端条件下,较差的耐磨性和抗氧化性限制了铜基合金的使用寿命。因此,如何在保证铜合金原有的高导电性、导热性的基础上,再较大程度地提高其耐磨耐氧化性,成为了现代铜加工行业发展的主要方向和课题。本研究采用自制的铜基合金粉末和Cr粉作为沉积材料,通过激光沉积技术在45#钢表面制备不同Cr含量的Cu-Ni-Fe-Mo-x Cr合
p-葡萄糖苷酶可以广泛应用于多种工业领域,如在纤维素的降解中,辅助外切纤维素酶和内切纤维素酶将纤维素降解为葡萄糖单糖；在食品工业中,水解果汁,茶汤中的芳香基糖苷类化合物,起到自然增香的效果；在医药工业中,水解中药活性成分的糖苷前体,制备有活性的中药成分；同时p-葡萄糖苷酶的转糖苷活性使得它在合成糖苷类活性物质上具有很好的应用前景,如利用p-葡萄糖苷酶合成表面活性剂烷基糖苷和益生元龙胆聚糖等。因此新
Si3N4陶瓷由于其优异的力学性能、高温性能和良好的透波性能等优势,成为具有潜力的天线罩/窗材料之一。然而面向天线罩应用的夹层结构Si3N4陶瓷的制备工艺仍不成熟,本文以Si3N4聚空心球为原料,采用直接凝固注模成型（Direct coagulation casting,DCC）复合浸渗工艺和激光选区烧结（Selective laser sintering,SLS）技术制备A型夹层结构Si3N4陶
本文针对具有弱角奇性的非角截断软势情形下的Vlasov-Poisson-Boltzmann方程的柯西问题,在其初始值有代数次衰减且充分小的条件下,我们证明了其在Maxwell分布附近的全局光滑解的存在性。这推广了（Duan R.-J.and Liu S.-Q.,Comm.Math.Phys.324（2013）,no.1,1-45）中的强角奇性结论,即 1/2 ≤s＜1 的情况。我们引入了一个时间衰
局部干法水下激光焊接技术是通过人为地设置局部排水装置,以降低水对激光焊接过程的影响,该方法具有高热量输入、损耗低精度高以及快速冷却的优点,在海底油气管道、海上大型设备以及绿色核电设施的建设与维修等领域具有广阔的应用前景。但是,现有的局部干法水下激光焊接装置通常只适用于浅水环境,无法直接进行对深水高压环境激光焊接过程的研究。为此,本文重点研发设计了一种适用于深水高压环境的局部干法水下激光焊接地面模拟
DNA折纸结构是一种以DNA为构建材料的新型纳米结构,被广泛用于生物、化学、物理、材料、传感、诊断、计算等多种领域的研究,具有很大的发展潜力。目前DNA折纸结构虽然依靠DNA自组装已经可以得到很多种类的图形,但其内在组装机制并没有得到完全的了解,三维动态折纸结构的构建方法尚存在可优化的空间,而解决上述问题有助于推动折纸结构应用性的研究,因此构建新型折纸结构并了解结构理化性质十分有必要。本课题以DN
目前,使用群体机床一起加工的方式已经广泛应用于手机、汽车、家电等行业。随着产品质量的提升,机床动态特性在制造精度中的影响因素越来越大,因此大量学者对机床动态特性展开研究。但是都止步于单台机床的动力学研究,群体机床的研究很少。群体机床由于制造安装误差,导致每个个体动力学特性产生随机变化,使得群体机床有着更复杂的动态特性。因此对群体中的每个个体的动态特性进行分析尤为重要。而传统的动力学分析方法,需要耗