【摘 要】
:
近些年来,卷积神经网络(CNN)算法作为最主要的深度学习算法之一已经获得了非常广泛的应用,对其训练和推断的加速优化方法也日渐成熟,但是卷积神经网络由于其固有高计算密度特性,通用加速平台并不能获得很好的加速效果。对卷积神经网络进行剪枝量化后网络模型稀疏度较高,可以极大减少它的参数规模,常见的卷积加速器没有利用好其高稀疏度的数据特性,因此本文设计了一款稀疏卷积神经网络硬件加速器。本文重点介绍了卷积映射
论文部分内容阅读
近些年来,卷积神经网络(CNN)算法作为最主要的深度学习算法之一已经获得了非常广泛的应用,对其训练和推断的加速优化方法也日渐成熟,但是卷积神经网络由于其固有高计算密度特性,通用加速平台并不能获得很好的加速效果。对卷积神经网络进行剪枝量化后网络模型稀疏度较高,可以极大减少它的参数规模,常见的卷积加速器没有利用好其高稀疏度的数据特性,因此本文设计了一款稀疏卷积神经网络硬件加速器。本文重点介绍了卷积映射方式、加速器各模块设计与实现,从数据流到硬件加速器,详细描述了如何去实现在低计算存储资源条件下达到高运算速度和加速比的稀疏卷积运算。本论文主要采用一种优化的CSC矩阵存储方式对稀疏卷积网络的权重数据进行压缩存储,进而将卷积运算转化为矩阵向量乘运算,把数据分块后分送给运算阵列进行稀疏矩阵向量乘运算加速。基于卷积算法和数据特性及技术指标要求,本文在数据流层面通过卷积分块和循环展开的方式,最大程度地提升卷积运算的并行度和运算阵列的利用率,将卷积运算映射到所设计的计算阵列上,在硬件加速器层面提出了一种参数可配置的并行流水的卷积运算架构。它支持卷积运算输入图像尺寸、卷积核尺寸、卷积步长等多参数静态配置,通过控制通道将配置信息传递给数据分发模块、运算阵列、输出缓存模块,实现各模块的可重构和资源复用。本文还设计了基于FPGA的原型验证平台,详细叙述了测试验证过程和验证方案,测试结果表明,本加速器在ZCU102开发板上计算逻辑资源占用小于三分之一,存储资源占用70%,小于大部分卷积加速器;本论文剪枝量化方法带来的准确率误差小于2%,加速器运行VGG16模型的速度为194.5ms,系统总功耗为8.078 W,能效比是CPU的70.1倍,GPU的2.42倍;等效峰值运算速率可达到341.2GOPs,能效比为42.2GOP/sW,对比相关FPGA加速器和ASIC设计,可以认为本加速器已接近目前卷积加速先进水平。
其他文献
抗菌剂作为防治各类病原微生物的药剂已经被广泛应用于农业、医药和工业生产中,属于药物及个人护理用品(PPCPs)的重要组成部分,近年来因其大量使用且在环境中广泛检出而备受关注。苄氯酚(CP)作为一种广谱性的抗菌药物,主要用于医院、家庭、工业和农业活动的一般清洁和消毒中。在实际污染水体中苄氯酚的检出浓度已高达mg·L-1级别,苄氯酚因其强疏水性(logKw=3.99)而倾向于积聚在沉积物和生物体内,并
F公司置身于投资行业之中,为全球百万客户管理上万亿美元资产,鉴于投资行业的特殊性,严格遵守各地的法律法规监管规则,研究并掌握全球经济市场规律,最大化的规避和管理风险从而为客户管理财富并增值财富是资产管理企业安身立命之根本,因此,F公司总公司的企业文化之中对于风险管理的重视程度极高,因为优秀的风险管理体系与公司核心战略的实现息息相关。在公司总部以及其金融中心的投资团队也配备了专业的风险控制团队来执行
2021年6月,我国首批基础设施公募REITs正式上市,揭开了 REITs在大陆资本市场发展的序幕,这对于房地产企业和投资者都具有重要意义,近年来,随着我国对房地产行业调控的加紧,房地产开发企业的融资困境进一步加深,我国投资者也缺乏投资直接房地产的金融工具,公募REITs的上市填补了我国大类金融产品的空白,它同时具有金融属性和房地产属性,有助于我国房地产开发企业向轻资产经营模式转变,拓宽融资渠道,
<正> 四、它山之石,可以攻玉:美国基层政府管理特点及对我们的启示 作为基层政府,摩根市政府的管理体制和管理行为是从属于更大社会——政治——历史文化背景的。作为城市化业已完成和城市管理成熟的地区,摩根市的管理,以及从它的管理模式中透露出的美国基层政府管理模式,尤其是那些不仅仅局限于社会制度的管理原则和管理思维所表现出来的政府管理特色,对我们的基层政府管理改革还是有借鉴意义的。这些管理特点可以概括为
近些年,伴随着时代的变迁和科学技术的进步发展,企业面对的外部环境呈现出更加复杂、易变和不确定的趋势。在日益开放和激烈的市场竞争环境中,一些企业如昙花一现,短短几年就消失不见;而有些企业如磐石,坚不可摧,实现基业长青。造成这些现象的原因有很多,但最重要的是在不断变革的环境和突发事件的冲击下,企业是否能够拥有积极的适应状态。企业的适应状态是需要动态变化的,不仅要保持企业在某个时点的适应性,更要在未来一
近年来,在宏观经济、监管制度、新冠疫情等多重因素影响之下,中国寿险业面临着极大的挑战,同时也蕴含多重机遇。一方面行业竞争压力显著,企业的产品和服务同质化日趋严重,保额虚高、价值率下降、赔付率恶化等趋势明显,企业盈利空间减少;一方面监管管控力度加大,在队伍清虚、产品规范、合规管理等方面要求企业做出应对和优化,对以往粗放式经营管理方式进行变革。寿险业的企业必须开启一场自我革命,真正地摒弃唯业务论、唯规
农业政策性银行发挥着中央政府财政与地方经济体的纽带作用,伴随各地区农业政策性银行业务范围的扩大、信贷余额的增长,抵押信贷业务风险也进一步提高,不良率增长。虽然农业政策性银行的抵押信贷具有显著的普惠金融特点,但是在多次改革背景下,新设抵押信贷业务采用了商业化的信贷模式,农业政策性银行需要对现有风险管理体系进行进一步调整与优化,满足抵押信贷业务风险管理要求。我国商业银行在经营发展过程中积累了丰富的抵押
背景:间充质干细胞的衰老严重影响其临床应用并且是衰老相关疾病发生的主要诱因之一,中药具有良好的抗衰老作用,可抑制间充质干细胞衰老从而促进其在组织工程中的应用并防治衰老相关疾病。目的:综述中药抑制间充质干细胞衰老的作用及机制。方法:检索中国知网和PubMed数据库2012-2022年关于中药抑制间充质干细胞衰老的文献,以“中药,间充质干细胞,衰老”为中文检索词,以“traditional chine
席夫碱的过渡金属配合物是一类有效的有机合成均相催化剂,主要应用于氧化反应等。然而,席夫碱金属配合物在有机相中的氧化反应催化活性却受外界反应条件如温度、压强、反应介质等的极大影响。除此之外,均相席夫碱金属配合物催化剂在水相中的应用也由于其较低的反应活性和稳定性而受到限制。因此,在常温常压下将席夫碱金属配合物作用于水相的高级氧化反应,应用于生产生活的污水处理成为了当前研究的重中之重。现有的研究已发现,
市场经济发展使商业银行成为金融产业主要的发展支撑。为适应市场经济发展,商业银行新业务开发加强,但伴随而来的是日渐复杂多样的操作风险带来的经营损失。提高操作风险的内部控制水平已成为商业银行稳定的重点,学界领域也愈发这一关问题,并在此方面加强探讨。中行D分行是中国银行的二级行,其在D市的营业网点多,人员总量多,伴随近年来业务的更迭与创新,其操作风险内部控制就成为其管理的重中之重。相关论题的研究对于中行