论文部分内容阅读
支持向量机是建立在统计学习理论基础上的一种机器学习方法,与传统的学习方法相比具有推广能力强、能达到全局最优和避免维数灾难等优点。由于其良好的性能,已在很多领域有了成功应用,有着广阔的发展前景。关于学习算法的研究是支持向量机研究内容的重要组成部分,如何设计出时间和空间复杂度更低的高效学习算法在理论和应用上都有着重要意义。本论文从优化方法的角度出发,通过研究几类支持向量机学习问题中的优化方法,提出了几个高效的迭代学习算法,并将支持向量机应用于智能风力发电机组状态监控与故障诊断系统中。主要内容包括:1.将最小二乘支持向量机学习问题转化为一个无约束的凸二次优化问题,然后提出了求解最小二乘支持向量机的简化公式,最后使用共轭梯度方法来得到数值解。通过引入这种转化,将已有的最小二乘支持向量机的共轭梯度迭代算法中使用共轭梯度方法的次数从两次减少到一次。2.基于无约束化的求解最小二乘支持向量机的简化公式,提出一种带有步长加速的单数据迭代算法。该算法结合变量选择规则和协同下降算法使其比逐次超松弛算法收敛速度更快,每步迭代仅更新一个变量使其比序贯最小优化方法更简便和灵活,引入步长加速措施使其更高效。3.提出一种多约束激活的对偶有效集方法,将传统的对偶有效集方法推广到每步加入多个违反约束而不增加求解的难度,加快了收敛速度。当算法应用于支持向量机的优化问题时,对两个大规模矩阵求逆可以用解一个规模较小并下降速度很快的线性方程组代替,减少了计算成本。4.在梯度投影方法中引入分解算法的思想,提出一种分解梯度投影算法。该算法既降低了梯度投影方法所解问题的规模,又节省了分解算法求子优化问题最优解的计算量。另外融入非单调线性搜索技术和谱步长选择方法,并使用一种线性时间算法去计算投影,进一步提高了算法的效率。5.风力发电是目前各种可再生能源技术中最具商业化前景的技术,发展风电对我国能源战略意义重大。随着风力发电的发展,风机维护的任务也更加艰巨。我们将支持向量机应用到智能风力发电机组状态监控与故障诊断系统中,取得了较好的效果。