论文部分内容阅读
唯有认知世界才能改造世界,提升机器认知能力的模式识别研究是人工智能领域的基础核心理论研究工作。另一方面,人工神经网络(简称ANN)本身具有很多优点以及一些其它人工智能技术所不具备的特点,但由于缺乏正确的理论指导,近年来ANN的发展并不乐观,应用研究中碰到的泛化问题至今仍没有完善的解决方案。鉴于模式识别在人工智能领域的重要地位以及ANN的研究现状,本文以模式识别为背景,以多层前向神经网络分类器为具体研究对象,研究了ANN领域的热点问题—泛化问题。
本文的研究主旨在于:期望通过本文这一探索性研究工作,使一些仅重视应用研究的ANN研究者充分认识到理论研究的重要性和必要性,以及应用研究与理论研究的不可分性,促进ANN更加蓬勃的发展。
本文主要的创新点和贡献有:
1)通过分析以往研究工作,发现了ANN分类器依概率渐进最优性证明过程中存在的问题,从而指出以往的理论结果存在着偏差。
2)在分析以往研究工作不足的基础上,建立了学习样本滤波(LearningSetFiltering)理论模型,导出了比较一般性的分类器设计原则,并以演绎方法和仿真实验分别证明和验证了以这一原则所设计的分类器解决了ANN的依概率渐进最优性问题。
3)在上述理论结果的指导下,着手解决ANN分类器在实践中所遇到的过拟和与权重初始化这两个重要的泛化问题。本文所提出的解决方案在人工数据集和真实数据集的实验中均取得了优于以往研究工作的结果,从而验证了这一方案的有效性。