有限精度权值神经网络优化的研究与应用

来源 :华东理工大学 | 被引量 : 5次 | 上传用户:luckkycaroll
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文主要针对目前广泛使用的嵌入式系统具有实时性要求高、内存容量有限以及软硬件精简等特点,传统浮点数权值和连续激励函数的神经网络计算量及其所需存储空间较大,无法在精简硬件的嵌入式系统中的应用的问题,从精简优化神经网络的目的出发,对有限精度神经网络权值的范围、网络结构、训练算法、运行方法等开展研究,使得能在嵌入式系统中利用神经网络来解决实际问题。本文主要研究成果如下:通过对分类问题的有限精度权值神经网络获得解的能力的分析,提出一种保证解决方案存在的神经网络有限精度权值范围和数量的计算方法。采用有限范围定点数或整数权值为提高神经网络的执行效率提供一条有效途径,因为有限范围的权值可以减少存储容量,且比浮点数计算的效率要高很多。但如果把权值的范围和精度下降得太多,会造成网络不收敛,得不到问题的解。因此必须针对不同的问题,分析计算并通过实验验证权值的范围和数量,确保所采用的权值范围及其神经网络能够在应用中取得良好效果。研究将神经网络浮点数权值改为有限精度定点数或整数权值后,网络结构、网络训练算法、网络运行方式、激励函数等如何进行改进,使得神经网络能够满足要求的收敛性和实时性。采用改进的遗传算法来对有限精度定点数或整数权值进行学习训练,同时在神经网络训练过程和网络运行中均采用离散激励函数,加快网络的运行速度。根据上述所描述的思想方法,采用这种改进遗传算法来优化有限精度的整数权值神经网络。针对传统的图像增强算法对嵌入式系统产品的不同类型的图像进行自适应增强所存在的问题,提出了一种基于有限精度神经网络的实时图像自适应增强算法,分别在软件和硬件平台上进行了仿真测试,并对实验结果进行了分析和比较,证明该整数权值神经网络具有好的实时图像增强效果。目前触摸屏常用的几种校准方法,如二点法、三点法和四点法等都是通过比例计算来实现的。由于触摸屏的坐标系和液晶屏的坐标系是一种不规则的非线性关系。因此采用比例计算来校准触摸屏,存在着较大的误差。为了提供一种既能提高触摸屏校准精度,又适合嵌入式系统的触摸屏校准。结合触摸屏坐标系的非线性特性和神经网络的高度非线性映射能力,提出了一种定点数权值神经网络的触摸屏校准方法。该方法采用精度可调的比例数格式定点数表示神经网络的权值,用改进的遗传算法进行网络的训练,并对网络的非线性节点激励函数进行了线性离散化,进一步提高了计算效率。通过实验验证,采用该神经网络的触摸屏校准具有比传统校准法更高的定位精度,并且在嵌入式系统中运行时的效率有了很大的提高。在分析研究现有数字识别方法的基础上,提出一种新的有限精度权值神经网络的数字识别方法。采用用逐步量化的Back-propagation (QBPSS)算法来训练神经网络的有限精度权值。同时提出了非线性激励函数按权值精度进行离散化的新方法,能更大地提高神经网络在嵌入式系统上的运行速度。将该优化的有限精度权值神经网络在ARM 9嵌入式系统上进行数字识别检测,结果表明该有限精度权值神经网络比其他有限精度权值神经网络有更好的效果,在嵌入式系统的数字识别中比传统神经网络的效率提高了11倍。
其他文献
采用有限元法对高压离心水泵系统进行模态分析,发现系统的固有频率与系统的运转频率有较大的差异,系统的动力学性能对抗震性能影响较小,因此可采用静强度分析方法分析系统的抗震
社会法则是一种用于协同多agent系统的有效工具,是模型检测技术的延伸。一般而言,社会法则包括协同目标和规范系统这两个组件——用协同目标来描述希望多agent系统所能拥有的
随着医学影像技术的发展,各种医学图像,如X光图像、计算机断层图像、磁共振图像等,不仅为现代医学带来了革命性的变化,也在临床诊断、治疗和医学研究中扮演着至关重要的角色
采用亲水剂喷淋-烘焙的方法和正交试验对聚丙烯纺黏-熔喷-纺黏(SMS)非织造脂肪纯化材料表面进行亲水整理,通过扫描电子显微镜、傅里叶变换红外光谱仪、接触角测量仪、倒置显
美国大学一直是全世界大学管理模式的典范,本文通过三个方面探究了美国大学的教学管理模式。首先,从管理上简述美国大学的管理机构:董事会、理事会和评议会;其次,从教学管理层
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
应用于“μ介子离子化冷却实验装置(MICE)”的超导耦合磁体系统是MICE中的三大关键设备之一。耦合磁体线圈内径为1500mm,长度为285mm,厚度为110.4mm,采用方形截面1.65×1.00mm^2
分析了环境对波纹管自调节式J—T制冷器维持流量的影响途径,并提出了三种优化途径,即通过优化波纹管有效面积与刚度比,或改变调节器工作点温度,或改变调节器充气种类来按需优化环