集成学习是机器学习领域的热点研究之一。它主要是通过某种组合方式将多个学习器的分类结果融合到一起,从而提高集成学习的泛化能力,避免过拟合现象。集成学习应用很广泛,目前主要应用领域有图像识别、语音识别、地震波分类等。选择性集成是在集成学习的基础上发展起来的,它的主要思想是通过某种方法来选取部分基模型进行集成。本文主要对选择策略的集成学习进行了研究。研究内容主要包括以下几个方面:第一,使用ID3决策树算法以及BP神经网络算法分别训练出若干个基模型。在这里,使用ID3算法训练基模型时要对数据进行离散化处理,使用BP神经网络算法时要对部分数据进行归一化处理,对数据的处理是否影响到集成性能进行了研究;第二,通过新的选择标准,采用爬山法、前序选择和后序选择这三种选择性方法对选择性集成进行了研究,实验证明了这几种方法的有效性,选择标准中参数的改变也说明了差异性对集成性能产生了一定的影响,并且把实验结果同对所有基模型进行集成的结果进行了比较,说明了选择性集成的有效性;第三,采用一些聚类方法对选择性集成进行了研究,当然这里的聚类是指将满足一定条件的基模型聚到一块,聚类选择方法主要包括层次聚类和k-means聚类。在聚类当中对集成模型的选择主要有四种方法,选取中心对象作为集成模型、随机从各个簇中选取一个对象作为集成模型、选取两个对象作为集成模型以及随机选取三个对象作为集成模型,最后对这些集成模型进行差异性度量,度量方法主要包括fail/no-fail、DF以及相关系数法;第四,对泛化误差进行了分析。通过实验进行比较也验证了选取中心对象的有效性以及选择性集成的有效性。从而说明选择性策略可以提高集成学习的泛化能力。选择性集成想必在未来也可以找到用武之地。