基于MAs算法的支持向量机参数优化研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:st704250036
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
支持向量机作为一个非常有效的机器学习方法,已经广泛应用于小样本、高维的分类和回归问题中。然而,在构建支持向量机模型时,一个非常重要的问题是如何优化模型参数与核参数。针对支持向量机参数优化的问题,本文首先对相关文献做了较详细的综述研究。在已有文献中,最简单直接的参数优化方法是网格搜索,但是该方法非常耗时,尤其是优化多于两个参数时;使用经典的数值优化算法最小化泛化误差边界有非常快的收敛速度,但是该类方法对初始点非常敏感,因此极易陷入局部极值点;进化算法由于具有较好的全局搜索能力,近来被许多学者用来优化支持向量机的有关参数,但是其缺乏在潜在邻域进行局部精细搜索的能力。针对已有文献中各方法的不足,本文提出了基于粒子群优化算法和模式搜索的文化基因算法,并将该算法应用到支持向量机参数优化中。在该算法中,粒子群优化算法主要负责参数空间的全局搜索和对存在最优解的潜在区域的探测,而模式搜索则在部分潜在区域中进行局部开采,以提高个体的质量。为了验证本文提出的算法的有效性,文章设计了三个实验。第一个实验研究模式搜索在该算法中的作用以及选择学习个体的策略;第二个实验和第三个实验分别将提出的算法应用到支持向量机分类和回归问题的参数优化中,结果表明,该算法与网格搜索、粒子群优化算法等常用方法和部分文献中的结果相比,有较好的准确率和稳定性。最后,总结全文并结合本文研究成果指出了下一步的研究方向。
其他文献
在煤矿生产中,煤矿瓦斯突出危险性预测与防治一直是世界各主要产煤国十分关注的重大科研课题。煤与瓦斯突出的研究表现出“治理手段多,预报手段少”,瓦斯突出机理复杂等问题,导致
自从2008年的金融危机之后,国内各行业都在经受惨痛洗礼的同时寻求摆脱危机阴影的突破口。然而就当其他行业不景气的时候,房地产行业却一枝独秀,就像获得生机一般不断地蓬勃发展