前馈神经网络的模型选择及其混合模型的研究

来源 :中国科学院自动化研究所 | 被引量 : 0次 | 上传用户:myqwe
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
前馈神经网络在实际当中得到了广泛的应用,但是其模型选择仍是神经网络研究领域亟待解决的问题,至今仍无严格的理论指导和统一的选取准则。同时,随着新理论和新算法的不断出现,单个前馈神经网络在分类(或函数逼近)问题上越来越难以取得更高的性能。因此,为了获得更高的分类准确率(或逼近精度),对不同类型的前馈神经网络进行混合不失为一种切实可行的办法。本文从模型选择和混合策略两个角度对前馈神经网络进行了研究。主要内容及结果如下:   ①基于信息论中的互信息,为多层感知器提出了一种两阶段构造方法。这种构造方法能够自动剔除不相关的输入节点和冗余的隐含节点。通过实验验证了它的有效性,且与Engelbrecht所提出的基于敏感度分析的结构选取方法对比表明,这种方法在基准数据集上能够取得更强的泛化能力。另外,研究表明:对于不同区间或同一区间上分布不同的样本,基于互信息的方法能够提供比基于敏感度分析的方法更为准确的相关度:当输入特征之间函数相关时,基于互信息的方法则比基于敏感度分析的方法更为有效;   ②提出了一种训练椭球基函数神经网络的混合学习算法。实验结果表明此算法能够提高传统的径向基函数神经网络的分类能力。与使用相同学习策略的径向基函数神经网络相比,在达到相同(或者更高)的测试准确率要求下,椭球基函数神经网络需要更少的训练次数和训练时间;   ③从没有类别个数信息的无类标数据分类问题出发,提出了一个基于自适应模糊c均值的混合专家模型,并通过实验验证了其有效性。此外,将模型推广到了半监督分类情况并给出了相应的模型构造方法,与Fung和Mangasarian所提出的CVS3VM模型相比,此拓展方法可以产生更佳的分类性能;   ④提出了高斯一契比雪夫神经网络模型。详细阐述了训练该模型的误差反传算法,并通过实验表明了它能够改善高斯神经网络的泛化能力、逼近能力和抗噪声能力。在相同的拓扑结构和参数设置下,高斯一契比雪夫神经网络能比Gauss-Sigmoid神经网络更快更准确地逼近相同的函数。
其他文献
汽车的操控性与舒适性是衡量汽车性能的两个标准,而两者却始终保持对立,很难兼顾。柔软的悬架能够增强乘坐舒适性,但操控性就要大打折扣;较硬的悬架使车辆操控性能提高,却会导致乘
组态技术在工业控制软件中的应用十分普遍。组态软件不仅使控制方案设计、调试简便易行、维护方便,而且能够大大缩短控制工程的开发周期。组态不仅是在上位机(PC)上实行,更重要
在中间包停浇过程中,随着液面的下降在出水口上方形成的汇流旋涡能把液面上的渣卷入钢液内部,恶化了钢水的质量,导致铸坯的质量下降,金属收得率降低。本文通过数值模拟和物理
温室效应,环境污染,资源的日益匮乏,人类对自然环境越来越关注,越来越需要新技术来替代当前的能量转化技术,而燃料电池由于其低污染,低噪音,高转化效率受到研究人员的关注。燃料电池
视频编码在视频信息的存储与传输中起到至关重要的作用。其主要作用是去除图像序列中的信息冗余。信息冗余主要表现在前后帧之间的相关性,因此,深入挖掘前后帧之间的相关性对于
分布估计算法(Estimation of Distribution Algorithm,简称EDA)是在遗传算法的基础之上发展起来的,与遗传算法不同,它不使用交叉和变异算子,而是根据当前种群中适应值较好的个体建
本文阐述了一款应用于工业现场的实时以太网通信芯片RTEMAC的设计实现。通过对相关协议IEEE802.3和IEEE1588的解析给出了芯片的总体实现方案以及设计架构,并对主要功能模块进
进入二十一世纪,制造企业对生产调度提出了新的要求,以往的经典调度理论在这方面遇到了困难。多智能体具有自主性、分布性、协调性,并具有推理能力和学习能力,为解决生产调度问题
基于核磁共振的心脏运动分析是诊断心肌萎缩等疾病和评价治疗效果的重要方法之一。基于核磁共振速度编码成像所获取的心肌运动速度图像,本文分析了心肌三维收缩运动。根据心脏
学位