论文部分内容阅读
统计学习理论是针对小样本情况下的机器学习理论,其核心思想是通过控制学习机器的复杂度实现对学习机器推广能力的控制。在这一理论中发展起来的支持向量机是一种新的通用学习方法,它较以往方法表现出一些理论和实践上的优势,已经在模式识别、回归估计、时间序列预测等多方面得到成功应用。支持向量回归(SVR)是支持向量机用于解决回归问题时的推广形式。本文从基于仿真的武器系统作战效能分析的需求出发,将SVR应用于响应曲面建模,并着重对SVR的模型选择问题进行研究,目的是提高SVR的估计精度。SVR通过核函数实现非线性情况下的推广,核函数的选择隐含地确定了映射函数和特征空间,选择或者构造与特定问题相适合的核函数是提高SVR性能的一种重要途径。本文通过实验对采用两种典型核函数——多项式核函数和径向基核函数的SVR对噪声的鲁棒性进行比较分析,在此基础上提出利用组合核函数提高SVR的鲁棒性,并分析了这两类核函数在两种简单组合方式下的可能组合形式。实验表明使用两类核函数的组合能够提高SVR的鲁棒性,所得结论对组合核函数的选择具有一定的参考价值。本文提出通过定义局部核将属性相对重要性的信息引入到SVR,实验结果表明引入权重客观信息的SVR比使用标准核函数的SVR具有更好的性能。在核函数的类型确定以后,模型选择就等价于对SVR中的超参数的优化,这通常通过最小化推广误差的估计来实现。本文针对当前SVR推广误差的估计大多需要较大计算费用的情况,推导出SVR的留一法误差的易于计算的界,这个界在得到学习算法的解后需要很少的额外工作量。然后根据此界的特点,提出了基于差商的参数优化算法,用差商代替导数的计算,具有较大的适用范围。本文参考参数调整的一些经验方法,通过对径向基核函数SVR的交叉验证误差随参数变化规律的分析,设计了一种启发式搜索算法,以提高基于交叉验证误差进行参数调整的效率。基准数据集上的实验表明所提算法的有效性和高效性。响应曲面建模方法实现仿真系统输入-输出间关系的近似,基于建立的响应曲面,系统优化、因素权衡等复杂分析将变得简单而高效。传统的响应曲面法使用低阶多项式进行响应曲面的构建,不便于响应函数非线性或者自变量空间取值范围较大时的研究,本文将SVR应用于响应曲面建模。针对SVR用于响应曲面构建时的特征选择、多响应建模等需求,提出基于线性规划的特征选择方法,设计了易于求解的多响应SVR模型,此模型可以直接利用当前的SVR训练算法进行求解。并对用于SVR模型的实验设计进行讨论,根据增量式实验设计的特点,设计了一种与此种实验设计相结合的SVR增量式学习算法。另外,还将SVR响应曲面建模方法同其他的响应曲面建模方法进行比较分析。作战仿真是武器系统作战效能分析的重要方法,本文提出基于仿真的武器系统作战效能分析基本框架,考虑到基于仿真的复杂分析的高仿真费用,将响应曲面模型纳入该框架内。基于此框架,以“装甲车辆总体仿真及作战效能分析”项目为背景,对主战坦克武器系统的作战效能分析问题进行实例研究。利用SVR实现关键性能参数的识别和响应曲面的构建,并基于建立的模型进行系统性能参数的优化分析。实验结果表明SVR用于作战效能分析的有效性。