论文部分内容阅读
支持向量机(SVM)对于解决分类的问题具有良好的性能,其中特征选择和参数优化对分类精度有较大影响。在特征中存在一些冗余特征,增加了算法的时间和空间复杂度,必须进行特征选择对数据进行降维。此外参数也会影响到最终的分类精度。这两个因素相互影响,如何对特征选择和参数进行同步优化以提高分类的效率已成为研究的趋势。本文提出了一种改进的基于粒子群优化(PSO)的SVM特征选择和参数联合优化算法(GPSO-SVM),使算法在提高分类精度的同时选取最佳的特征子集。传统粒子群算法在进行优化时易出现陷入局部最优和早熟的问题,为了克服这一缺点,该算法在PSO中引入遗传算法(GA)中的交叉变异算子,使粒子在每次迭代更新后进行交叉变异操作来避免这一问题。该算法通过粒子之间的不相关性指数决定粒子之间的交叉配对,由粒子适应度值的大小决定变异概率的大小,由此产生新的粒子进入到群体中。这样使得粒子跳出当前搜索到的局部最优位置,提高群体的多样性,在全局范围内寻找更优值。在不同数据集上进行实验,与其它优化算法相比,GPSO-SVM算法的分类精度更高,特征选择能力更好。鉴于GPSO-SVM算法虽然提高了精度,但迭代周期较长,本文使用了思维进化算法进行特征选择和参数的同步优化。思维进化算法(MEA)是一种新型优化算法,利用该算法进行特征选择和SVM参数同步优化能取得较好的分类效果并且迭代周期相对较短,但也存在着易陷入局部最优的问题。本文提出了一种改进的思维进化算法进行分类器优化(RMEA-SVM),在传统思维进化算法的基础上引入了“学习”和“反思”机制,利用子群体间信息共享进行学习,比较适应度值大小来反思。以这种方式保证种群的多样性,进一步地提高分类精度。实验证明了算法的有效性。本文利用两种优化算法解决SVM的特征选择和参数同步优化的问题,分类精度更高,特征选择能力更强,取得了不错的效果。