可解释的和能理解的神经网络树设计方法研究

来源 :东南大学 | 被引量 : 0次 | 上传用户:ysy8023zq
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
机器学习方法主要有两种:符号学习方法和非符号学习方法。决策树是一种典型的符号学习模型,神经网络是一种最常见的非符号学习模型。一般来说,符号学习方法适合于提取能理解的规则但不能在线增量学习,非符号学习方法适合于在线增量学习,但是不能提取能理解的规则。神经网络树是一种神经网络和决策树的混合学习模型,总体的结构是决策树模型,每一个非终端节点是一个专家神经网络,神经网络树有决策树和神经网络两者的优点。为了增强神经网络树的实用性,应当提出用于增量学习的有效算法,设计尽可能小的神经网络,提出在线解释的方法。这篇论文的目的是基于多目标优化和多模板匹配算法设计可解释的,能理解的或自我解释的神经网络树。本文的主要贡献是:第一章回顾了已有的神经网络与决策树的混合模型设计方法。第二章研究人工神经网络拓扑结构与学习算法、决策树的定义与学习算法以及基于遗传算法的优化方法等,并以此为基础研究了神经网络树的定义及其演化设计方法。第三章在研究有限输入神经网络树的基础上,提出了基于遗传算法的多目标优化方法设计更容易解释和理解的神经网络树。该方法通过同时对非终端节点的分类能力(通过计算信息增益率)、神经网络树非终端节点的隐层神经元数目和神经网络树每个非终端节点的输入特征数目等多个目标进行优化,在提高非终端节点分类能力的前提下,尽量减少神经网络树非终端节点的隐层神经元数目和神经网络树每个非终端节点的输入特征数目,来获得更容易解释和理解的神经网络树。论文利用UCI机器学习数据库中的4个数据库验证了算法的有效性。第四章通过采用多模板匹配方法设计了可以自我解释神经网络树,即,用多模板取代原型神经网络树的多层感知器单元,再通过进化算法对输入矢量和网络权重矢量间的距离进行优化来设计各模板。理论分析表明此种神经网络树有自我解释和便于理解的特点,并且其泛化能力和分类能力并不会降低。理论分析和大量实验验证所提出方法的有效性。
其他文献
期刊
期刊
现今的网络技术快速发展,应用也趋向于多样化,人们对网络性能的要求也逐步提高。网络的生存性与脆弱性引起研究者们更多的关注。在生存性方面,针对随机失效的保护资源配置问题上
期刊
期刊
随着人类社会与通信技术产业的进步,节能问题已经成为社会关注的热点,因此通信技术的节能技术研究也越来越重要在层出不穷的各种节能技术研究当中,休眠节能模式是一种非常重要的
期刊
Internet的诞生和快速发展给人类的生活方式和工作方式带来巨大的变化,也使得沟通与信息传递方式呈现出前所未有的便利和快捷.随着多媒体技术与网络技术的飞速发展以及相互融
期刊
期刊