支持向量机集成了结构风险最小化、凸二次规划和核函数映射等几项技术,有效地解决了在经典机器学习中出现的“维数灾难”和“局部极小”等传统困难,并在许多领域得到应用。最小二乘支持向量机是支持向量机的一个改进模型,秉承了支持向量机的基本思想,并简化了标准支持向量机的计算复杂性,在控制领域具有很大的应用潜力。本文对最小二乘支持向量机的若干问题进行了较为深入的研究,主要贡献如下：(1)理论上解释了LS-SVM核函数矩阵在某些非正定的情况下也能取得较好学习效果的原因。利用矩阵分块的思想,将LS-SVM的优化求解(分类和回归是等价的)问题转换为一个低阶的对称正定线性系统。并发展了具有更小条件数的预处理共轭梯度算法(Preconditioned Conjugate Gradient, PCG),从而减少LS-SVM学习过程迭代次数,使训练速度得到明显提高。(2)指出了现有L-P小波核函数的不足：固定了基本小波的频率带宽,无法较好逼近频率丰富的信号。并提出了可调带宽的]Modified L-P小波核函数,由于该核函数通过平移伸缩可以构成平方可积空间上一组完备的基,能逼近复杂的函数,并通过调整带宽因子对突变信号具有逐步精细的描述特性,提高了支持向量机的泛化性能。(3)为简化计算复杂性,将可调带宽的Modified L-P小波核函数作LS-SVM的核函数,提出了Modified L-P小波核最小二乘支持向量机。为支持向量机的模型选择提供了新的核函数。实验结果表明,新的Modified L-P小波核函数最小二乘支持向量机的建模和逼近能力优于基于L-P小波核函数或高斯核函数最小二乘支持向量机。(4)分析了Suykens提出的加权LS-SVM对存在强野点的稀疏数据进行回归建模的不足和避免“过度拟合”,并利用具有全局特性的柯西分布概率密度函数,提出了基于柯西分布加权方法。由于考虑了生产过程中样本数据的稀疏性并存在噪声和野点,因此与原加权方法相比,新的加权方法更具有强的抗干扰性。(5)指出了加权的Modified L-P小波最小二乘支持向量机是离线式批量算法,当新样本序贯加入模型时,训练将这一时刻前所有数据都纳入计算样本,并重复这一过程,计算复杂性高,不适合在线学习的问题。为此,利用块矩阵理论,提出了新的加权迭代格式,避免了序贯加入新样本和剔除过时样本需重新矩阵求逆的运算,并根据拟合误差的大小,赋予样本不同的权值,使加权迭代Modified L-P小波最小二乘支持向量机具有了一定的稀疏性和较好的抗噪声干扰性,并拓展了它在实际中的应用范围。(6)指出了常用的“一对一”和“一对多”多分类算法的不足,提出了基于LS-SVM的多类分类策略的故障诊断方法。该方法充分利用了神经网络并行输出编码的方式,将多类别分类问题转变为数量较少的二类别LS-SVM分类器,识别过程仅涉及到各个判别函数的计算及最后的编码,使训练计算量、测试计算量大大减少,识别时间低于“一对一”或“一对多”的SVM多类识别方法。为支持向量机在故障诊断中的应用提供了一条新的有效途径。