传统的机器学习分类算法通常是在各类数据集样本数量基本平衡的基础上建立起来的。但实际应用场景中的数据集常存在不平衡问题,如医疗诊断,故障预测,信用卡检测等,这将对分类器的泛化能力造成明显的负面效果。因此,提高传统机器学习算法在不平衡数据集上的分类效果一直以来都是机器学习领域中的热点问题。针对数据不平衡问题,现有的解决方案主要包括过采样,欠采样,代价敏感学习,集成学习等,本文从过采样算法,欠采样算法,代价敏感学习算法三个角度出发提出三种新的解决方法,本文主要研究内容如下:分析了常用过采样算法SMOTE在数据过采样问题中的不足,提出了一种融合样本密度的模糊过采样算法（FSMOTE）。在不平衡数据集中,容易被错分的少数类样本往往分布于少数类样本较为稀疏同时多数类样本较为密集的边界区域,FSMOTE算法根据样本的密度设计样本权重,使得这类易错分样本拥有更大的过采样权重并通过插值生成更多的人工样本,以提高分类器对该部分少数类样本的关注程度,提高了分类器的分类准确率。结合支持向量机算法提出一种新的欠采样算法（SVM-US）。该算法首先将多数类样本集中可能影响到少数类分类准确率的部分噪声样本去除。然后通过K-means聚类算法和支持向量机算法寻找出多数类的边界样本集合,与常用的直接删除多数类样本的方式不同,在SVM-US算法中以边界样本与其近邻样本之间进行线性插值的方式重构出新的多数类样本集合,尽可能地保留多数类样本集合的样本分布信息,提高了分类的准确率。分析了支持向量机算法应对不平衡数据集分类时存在的不足,并提出了一种代价敏感支持向量机算法（WSVMCIL）,该算法首先根据核密度估计方法估算出样本的概率密度函数,并以此初步确定样本的权重大小;然后根据SVDD算法与样本在类中心的投影位置将数据集分为噪声样本,普通样本,边界样本和重叠样本四类样本集合,结合支持向量机分类算法的特点,以增大边界样本权重和减小噪声样本与重叠样本权重为目标对上述权重作进一步的调整,提高了分类器的准确率。