Madaline敏感性研究

来源 :河海大学 | 被引量 : 1次 | 上传用户:zst_chengdu_xxxx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
神经网络的输出对参数扰动的敏感性是神经网络设计和实现中的一个重要问题。参数的扰动对网络的输出会有怎样的影响?如何度量神经网络对参数扰动的敏感程度?本文着重计算和分析了一种前馈神经网络——Madaline对于输入和权扰动的敏感性。 基于Madaline的结构特点,本文采用自底向上的方法计算Madaline的敏感性。首先,我们研究神经元——Adaline的敏感性。在此基础上,逐层计算Adaline的敏感性,最后输出层的Adaline的敏感性就是整个Madaline的敏感性。 敏感性在本文中定义为网络输出由于其参数的扰动而发生改变的数学期望。对于一个训练后的网络而言,它的网络结构和权都已给定,论文从两个不同的角度来计算它对于输入和权扰动的敏感性。第一个角度是要求敏感性计算的结果比较精确。为此,本文提出了能准确表示Madaline输入空间的超立方模型,然后给出了基于超立方模型的计算敏感性的算法。尽管算法有一定的复杂度,但是实验表明该算法得到结果比较精确。第二个角度要求给出复杂度较低的敏感性计算方法,然后尽可能地提高计算的精度。为此,本文提出了概率模型,并在概率模型基础上给出了敏感性计算方法。基于概率模型的敏感性计算方法不仅复杂度非常低,而且实验表明,当输入维数较大时,计算的精度也可以满足要求。接着,又用概率模型来研究训练前的Madaline对于输入和权扰动的敏感性,此时Madaline的权尚未确定,研究目标是分析整个一类Madaline的共性。利用对训练前Madaline的敏感性研究的结果,文中还就Madaline网络结构参数对敏感性的影响进行了分析。这些分析的结果可以被用来指导Madaline网络的设计。 最后,本文指出了敏感性在神经网络领域的应用前景。
其他文献
专家推理系统的泛化能力是指系统识别训练集合以外样本的能力,被认为是衡量专家推理系统最重要的指标。而泛化能力的好坏关键取决于专家推理系统内的专家知识库,知识库中的知
随着多媒体技术与网络技术的飞速发展和广泛应用,对数字多媒体信号的存储,处理以及传输变得越来越方便和快捷,同时由于通用计算处理单元CPU和各种专用处理器的处理能力的提高
本文首先介绍了网络测量的历史和背景,研究网络测量的意义。接着介绍了目前的网络测量方法和一些常用的网络测量工具,列举了一些主要的测量指标,详细阐述了包行为测量和端
本文从探讨如何将业务需求映射到软件系统出发,提出了面向ERP的企业模型,并对模型的核心要素进行了讨论。该模型针对企业的业务模型和软件模型建立了相应的映射关系,同时借
本文针对大规模异步分布式系统环境对失效检测方法进行了研究。首先详细介绍了失效检测的理论基础。并以此为基础对现今国内外常用的大规模失效检测方法进行了详细的
本文在双机容错体系的基础上,结合集群系统的高可用框架理论,建立了适合于网络容错服务器的高可用系统模型;分析了该模型中各抽象元素的状态变化:从抽象层次阐述了双机容
本文主要针对中国手语4942个手势词以及由这些手势词组成的543个连续手势句子进行了识别算法的研究,在此基础上实现了特定人的手势词和连续语句的在线实时识别.研究重点是解
集群式供应链作为一种新型的供应链组织模式,比传统的供应链具有明显的优势,如进行大规模定制化生产,降低成本,提高集群企业利润、市场竞争力和创新能力以及客户满意度等等。它是
随着计算机辅助设计技术的发展,通过实物模型产生数字模型的逆向工程技术获得了越来越广泛的应用。为了得到被测物体的完整数据模型,需要确定一个合适的坐标变换,将从各个视角得
本文的重点主要集中在特征点的匹配和多视角关系的校正.主要完成以下两方面的工作:(1)特征点匹配算法的设计.将特征匹配和极线几何估计有机的结合起来,给出一种基于组合优化