卷积神经网络训练访存优化

来源 :西安电子科技大学学报 | 被引量 : 0次 | 上传用户:fengyun163
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
虽然批归一化算法能有效加速深度卷积网络模型的收敛速度,但其数据依赖性复杂,训练时会导致严重的“存储墙”瓶颈。故对使用批归一化算法的卷积神经网络,提出多层融合且重构批归一化层的训练方法,减少模型训练过程中的访存量。首先,通过分析训练时批归一化层的数据依赖、访存特征及模型训练时的访存特征,分析访存瓶颈的关键因素;其次,使用“计算换访存”思想,提出融合“卷积层+批归一化层+激活层”结构的方法,并基于批归一化层的计算访存特征,将其重构为两个子层,分别与相邻层融合,进一步减少训练时对主存的读写,并构建了训练时的访存
其他文献
06年与War3相识,随后与电竞结缘。一晃之间.当初课堂上在老师天花乱坠的演讲下依然能忘我酣睡做着成为电子竞技职业选手的美梦的我,已经是一名即将毕业踏入社会的大学生了。更没
目的 探讨汶川地震后儿童和青少年生命质量变化趋势和影响因素.方法 采用随机抽样和系统抽样相结合的方法,利用地震创伤经历问卷(EEQ)、儿童创伤后应激障碍反应指数量表(CPTSD-R
目的对甲状腺瘤患者分别采取改良小切口手术与传统甲状腺切除术进行治疗,对其临床疗效进行比较分析。方法将2015年7月~2017年6月准备在我院实施甲状腺瘤手术的40例患者作为此
据了解,OSL决赛将首次在上海举行。这本是一件大好事,却因为勾起了国内三家承办方的恩怨而引发了一场口水战。  在电子竞技这个行业中。饿着肚子是一个常见的状态。假设有一份大餐放在眼前。那么引起争端是显而易见的事情。在这个过程中无论拿出人情道义、江湖规矩都是单薄的。因为想吃饱肚子才是真正的主题。  在我看来。没有哪个行业是不存在恩怨的。盛大与wemade的恩怨造就了中国第一的网络游戏企业,AMD与In
目的了解中等职业卫生学校实验实训教师基本情况及学生和理论授课教师对教学的满意度,为提高实验实训教师教学水平提供参考依据。方法以吉林省在校生人数超过1 500名的3家中
过年回到单位,所有杂志工作人员的主题就一个字,忙!  不过忙中也有快乐。2月上的杂志前后收到了许多读者来信,让编辑们深感自己的努力没有白费。  另外一个给大家带来快乐的还有微博。发行部的大大每天都在坚持发微博。他的节奏就是:找新闻、发微博,然后找编辑们进行转播,以此换来他的快乐和满足。当然,看着杂志微博粉丝不断地增长,大家都很开心。  大概是上个周(哪个周就说不清楚了),3月上的杂志出刊了。这期杂
目的观察经皮椎体成形术治疗老年骨质疏松性胸腰椎压缩性骨折的临床效果。方法选取2015年7月—2017年10月间所收治的50例老年骨质疏松性胸腰椎压缩性骨折患者(包括在广州市人
分析人力资源管理领域中职业生涯测量方法的演进,借鉴社会科学领域对职业生涯发展的评价和测量方法,结合护士职业生涯的特点和研究现状,从职业生涯发展研究的角度,提出对研究