支持向量机是Vapnik教授领导的研究小组于上世纪末提出的一种机器学习的新方法,是统计学习理论的核心部分,是处理小样本学习的有效工具。支持向量机作为统计学习理论的实现方法,能很好地解决非线性和高维数问题,克服了神经网络方法收敛慢、解不稳定、推广性差的缺点,近年来得到了广泛地研究,在模式识别、信号处理、控制、通讯等方面得到了广泛地应用。因此,研究支持向量机的理论和应用问题具有重要的理论与现实意义。回归估计是支持向量机方法的重要研究领域,本文以支持向量机理论为基础,对回归问题的方法进行了研究。全文共分六章,具体内容如下：1.介绍了机器学习领域中统计学习理论的基本思想和方法,进一步详细说明了结构风险最小化原理,同时,对支持向量机的发展进行了概括性的总结；2.在深入分析支持向量机基本原理的基础上,对目前的支持向量机的改进算法进行了总结,同时,将各种算法与传统算法进行了比较；3.针对非线性建模问题,提出一种新的支持向量机核函数构造方法,对高斯核函数在支持向量密集处拟合效果差的缺点进行了改进,仿真研究结果显示,新方法可以一定程度上减少泛化误差；4.提出了一种基于Fisher判别率的支持向量机回归算法。该方法通过引入样本内部相似程度的判别因子来减少样本错分几率,理论分析与仿真实验均验证了算法的有效性和优越性；5.提出了一种新的用于回归的支持向量机增量算法。该算法与传统算法相比,可以在满足模型精度要求的基础上,明显地提高算法的计算速度。