论文部分内容阅读
支持向量机(Support Vector Machine, SVM);是在统计学习理论框架下产生的一种通用的机器学习方法,与神经网络方法相比,支持向量机解决了小样本、过学习、高维数、局部最小等问题,而且具有很强的泛化性能,已被人们广泛用于模式识别、回归估计、密度估计、系统辨识、过程建模和控制等领域。但是,支持向量机仍然存在大样本计算复杂度高、模型参数及核函数选择困难等问题,本文从支持向量回归机(Support Vector Regression, SVR)理论研究和应用的角度出发,对支持向量回归机的大规模样本学习、模型选择、过程建模和预测控制等几个方面作了系统的研究,主要包含以下内容:(1)提出了有效的数据约简算法,改善了高维大样本的学习问题。针对回归估计的大样本学习问题,提出了基于边界向量提取的支持向量回归机样本约简算法。通过引入ε’带将所有目标输出分别增加和减少ε’,将原有支持向量回归问题转化为高维空间的两类分类问题,调整ε’带大小使两类样本可分,借助自适应投影算法选择边界向量,实现了支持向量回归机的样本约简。针对高维数据问题,提出了基于量子聚类的支持向量回归机特征选择算法,将惰性阈值引入到量子聚类中,确定了具有最优性能的特征子集。通过数值仿真研究证实了上述数据约简算法的有效性。(2)提出了三种支持向量回归机模型参数优化算法。研究了参数选择对支持向量回归机的泛化性能的影响,将粒子群算法中的每个粒子随迭代次数变化赋予不同的惯性权重,提出了基于自适应粒子群的支持向量回归机模型参数选择算法。提出了基于模糊接受和模糊影响的模糊文化算法,优化了支持向量回归机模型参数,改善了模型参数的寻优效果。提出了支持向量回归机的惩罚参数C加权算法,依据样本的训练误差赋予样本不同的权值,通过数值仿真验证了各模型的泛化精度都得到了有效地提高。(3)构造了改进的保角变换核函数和基于模型选择的多尺度小波核函数。通过定义新的因子函数,减小了特征空间中远离支持向量的样本点的因子,提出了基于改进的保角变换核函数的支持向量回归算法,对标准回归数据集和乙烯精馏塔产品组成预估的仿真验证了算法提高回归模型精度的有效性。提出了一种构造多尺度Morlet小波核函数的方法,解决了复杂多峰的函数拟合问题。通过对标准回归数据集和丙烯精馏塔的丙烯浓度数据的仿真证实了该方法的可行性。(4)提出了关于非线性多变量系统的支持向量回归机动态建模方法。针对实际工业过程的时变特性,将输入变量和历史输出进行非线性映射和线性叠加,提出了基于线性规划支持向量回归机的非线性多输入多输出系统的动态模型,解决了实际复杂工业过程的建模问题。通过对聚对苯甲酸乙二酯工业过程数据和二阶差分非线性多输入单输出系统的仿真证实了该方法的可行性。(5)提出了基于支持向量回归机的非线性预测控制方法。将非线性系统的输入和输出进行非线性映射,设计出基于线性规划支持向量回归机的预测模型,利用泰勒展开对该预测模型进行线性化,推导了预测控制系统的最优控制律,形成了支持向量回归机的非线性预测控制方法。通过对弱非线性系统和强非线性系统的仿真表明,该方法表现出较强的抗干扰性。