论文部分内容阅读
自Vapnik于1995年提出支持向量机(Support Vector Machines,SVM)后,支持向量机已经在很多领域得到了成功的应用。然而支持向量机也存在着几个缺点:首先,用于解优化问题的逼近算法会影响泛化能力;其次,核函数和分类参数(包括惩罚系数C,核函数参数)的选择没有特别好的办法,应用时不容易找到最优的核函数和分类参数;最后,两类支持向量机扩展到多类时会导致性能下降。集成技术是现在机器学习的热点之一,以神经网络、决策树等为基本分类器的集成研究已经取得了很大的进展,而基于支持向量机的集成技术研究相对起步较晚,研究较少。本文研究了多类支持向量机集成,同时,尝试把支持向量机集成应用于遥感分类的研究。本文所取得的创新性研究成果主要有: 1.比起神经网络、决策树等学习算法,支持向量机是相对稳定的分类器,利用常用的集成算法Bagging和Boosting对SVM进行集成并不能有效地提高分类效果,本文提出了同时扰动训练集和SVM分类模型参数的RBaggSVM和RBoostSVM算法,算法的特点是在一定的范围内随机选取SVM的模型参数,以获得有差异的成员分类器。 2.把寻找部分分类器参与集成以取得最佳效果看作是优化问题,遗传算法对优化问题具有全局寻优能力,本文提出了基于遗传算法的GARBaggSVM和GARBoostSVM分类器选择算法。尝试应用遗传算法对SVM集成的合成权重进行优化,然后选择最优的部分成员SVM参与集成来提高分类精度。 3.提出一种基于局部精度的动态集成算法DERBaggSVM和DERBoostSVM,根据待分类测试样本在其周围邻近空间的局部精度来选择一部分成员分类器参与集成,经投票或加权投票得到分类结果。 4.尝试将多类支持向量机、支持向量机集成应用到多源遥感分类中,并与最大似然法、神经网络和神经网络集成技术进行比较,显示了支持