论文部分内容阅读
粗糙集理论是处理不确定、不完整、不精确知识的有力工具,该理论已成为不确定性计算领域的一个重要分支。粗糙集对信息系统的分析建模,涵盖了人类逻辑思维的归纳推理、演绎推理和常识推理这三种形式,直接模拟了人脑的逻辑思维能力。而通过大量神经元互连形成的神经网络是不确定性计算领域的另一个重要分支,具有很强的非线性映射能力及自适应、自学习、鲁棒性和容错能力,是对人脑直观形象思维的模拟。鉴于粗糙集和神经网络在信息处理方式、知识获取、抗噪声能力、泛化性能等方面有很多互补之处,将两者集成的粗集神经网络反映了人类智能中定性和定量、清晰和隐含、串行和并行交叉混合的思维机理,其研究必然具有前沿性、科学性及优越性。作为当今智能集成系统的一个重要分支,粗集神经网络集成可望成为开发下一代专家系统的主流技术。本文通过增强粗集神经网络的信息处理能力,建立新的决策系统建模方式,拓展其应用领域,解决其易构造性和计算复杂性问题等方面进行了一系列的探索和研究,提出了一些新的粗集神经网络集成方法并研究了它们在模式识别领域的应用。通过对近十几年发展起来的国内、外粗集神经网络集成方法的总结和归纳,本文将粗集神经网络划分为三种主要的集成方式:粗集神经网络综合集成系统、粗边界神经网络、粗—颗粒神经网络。介绍了每一种集成方式的研究现状,并对其原理及特点进行了分析和阐述。不同于以往单纯基于粗糙集数据分析和约简基础下的粗集神经网络模型,基于粗逻辑理论,研究了粗逻辑意义下,基于粗逻辑决策规则的“强耦合”形式的具有模糊化神经元的粗逻辑神经网络模型的设计,分析和比较了粗逻辑神经网络和模糊逻辑神经网络的特点和性质。在重庆地区和长白山天池地区Landsat TM遥感图像的地物分类实验中,验证了粗逻辑神经网络模型的有效性,同时可以发现其在网络结构和收敛性方面的优势。通过在输入层和隐含层之间加入一个模糊化神经元层,构造了一种集成模糊神经元和粗神经元的模糊粗神经网络模型。由于粗神经元的不可微性,BP算法不再适用,因此本文采用遗传算法(GA)来进行网络权值的学习,同时融入具有局部最优解搜索能力的爬山法改善了进化后期的计算效率。仿真表明,融合了模糊信息和粗糙集信息处理能力的模糊粗神经网络模型在图像融合滤波方面比BP网络和单纯由粗神经元构成的粗集神经网络模型具有更好的性能,是一种性能很好的混合智能神经网络。由于系统中模糊不确定性信息和粗糙不确定性信息往往是并存的,有必要采用模糊粗糙集(Fuzzy-Rough Set )理论来进行处理,基于模糊粗隶属函数,本文创建了一种模糊粗隶属函数神经网络(FRMFN)模型。融入了粗糙不确定性信息处理能力的FRMFN,在保留原有模糊相似信息的基础上,很大程度减少了分类中的粗糙不确定性。在遥感图像分类和元音字母语音识别的实验中,显示FRMFN网络具有比相应径向基函数(RBF)网络更好的分类精度,同时保留有RBF网络学习速度快的优点。基于经典Pawlak粗糙集分析设计的应用系统的推广泛化能力弱,抗噪声性能差。为更好地解决这些问题,研究了基于“多数包含关系”的变精度粗糙集模型下的粗集神经网络设计。文中对β近似约简条件进行了弱化推广,在结合约简异常分析和实例分析的基础上,提出了β近似约简的选取原则,给出了变精度粗糙规则集提取和β阈值稳定区间求取算法。在对Brodatz纹理图像的分类实验中,比较了经典粗集神经网络(RNN)和变精度粗集神经网络(VPRNN)的性能,VPRNN不仅具有更为精简的结构和更短的训练时间,而且VPRNN对测试样本分类表现出了更强的泛化性能。为降低集成特征选择方法的计算复杂性,提出一种基于粗糙集约简的神经网络集成分类方法。首先,通过结合遗传算法求约简和重采样技术介绍了一种动态约简方法,通过动态约简方法可以获得稳定的、泛化能力较强的属性约简集。然后,基于不同约简设计BP网络作为待集成的基分类器,并依据选择性集成思想,通过一定的搜索策略,找到具有最佳泛化性能的集成网络。最后,通过多数投票法实现神经网络集成分类。该方法在某地区Landsat 7波段遥感图像的分类实验中得到了验证,由于通过粗糙集约简,过滤掉了大量分类性能欠佳的特征子集,和传统的集成特征选择方法相比,本文方法时间开销少,计算复杂性低,具有良好的分类性能。增加集成神经网络中个体网络的差异度有利于提高神经网络集成的泛化性能,基于此,提出了Rough_Boosting和Rough_Bagging个体网络生成算法。在Boosting或Bagging算法对样本进行扰动的基础上,通过粗糙集约简实现属性选择,从而有效的将扰动训练样本和扰动输入属性结合起来,生成精确度高且差异度大的个体网络。实验结果表明,本文算法泛化能力明显优于Boosting和Bagging算法,生成的个体网络差异度更大。和同类算法相比,本文算法具有相近或相当的性能。由于传统聚类方法设计RBF网络时,带有一定盲目性和主观性,而且聚类结果对初始值具有敏感性,在输入特征空间进行的聚类仅考虑到样本在输入特征空间的相似性,而没有考虑样本本身的输出类别信息,生成的聚类并不能完全反映输入输出之间的映射关系。因此,本文提出一种基于不可分辨划分的有监督粗糙集聚类算法的RBF网络设计方法。文中由布尔逻辑推理方法进行属性离散化,得到初始决策模式集,通过定义在粗糙集分析基础上的差异度对初始决策模式的相似度进行衡量并实现聚类,以聚类决策模式构造RBF网络。针对RBF网络输出单元的线性权值和隐层单元的非线性基函数是在一种不同的“时间尺度”上更新的特点,提出分别对隐层参数采用BP算法,而对输出权值采用线性最小二乘滤波法进行训练的混合学习算法。实验结果表明,该方法设计的RBF网络结构精简,具有良好的泛化性能,所采用的混合学习算法收敛速度优于单纯的BP算法。为解决粗逻辑神经网络精度和网络规模复杂性及推广泛化能力之间的矛盾,提出一种具有可变离散精度的粗逻辑神经网络模型设计方法。该方法通过近似域划分,将论域空间划分为确定性区域和可能性区域,由于可能性区域信息粒度过大是造成误分类的重要原因,只需对可能性区域离散区间进一步细化,即可达到提高粗逻辑神经网络模型的精度,同时抑制网络规模增长过快的目的。在长白山天池地区的遥感图像分类实验中,常规离散精度等级确定的粗逻辑神经网络方法在离散等级为7时有最好性能,而本文方法以较小的网络代价和训练时间获得了逼近的分类结果。为避免约简计算,研究了基于模糊粗糙模型(FRM),从自底向上的角度进行粗神经网络建模的方法。该方法通过自适应G-K聚类算法,实现基于输入—输出积空间聚类的模糊划分,在基于聚类数和约简属性搜索的基础上,提取优化的FRM模型,在此基础上融合神经网络实现粗神经网络建模(FRM_RNN_M)。对Brodatz纹理图像的实验表明:①其性能优于传统的贝叶斯和LVQ方法;②FRM_RNN_M比单纯的FRM模型具有更强的综合决策能力,在考虑到属性约简的搜索后将有利于获得分类性能更好的FRM优化模型;③和传统的粗逻辑神经网络(RLNN)相比,FRM_RNN_M方法建立的神经网络结构精简,收敛速度快,具有更强的泛化能力。作为一种通用的决策系统建模方法,该方法可以广泛应用于其它相关领域。论文最后总结了全文的主要创新性研究成果,对下一步研究工作进行了展望。