近年来,随着数据挖掘技术的日益成熟和离群点检测研究的持续深入,离群点检测研究已经在欺诈行为识别、网络恶意入侵检测和医疗健康检测等多个领域得到了广泛的应用。离群点检测技术虽然在理论研究和应用系统构建方面已经取得了很大进步,但是在无监督和半监督离群点检测中,仍存在算法对数据的适应性差和对数据信息利用不足等问题,还需开展深入研究。基于上述背景,本文针对无监督和半监督离群点检测中的问题,开展了以下研究工作:（1）针对传统无监督离群点检测算法对数据适应性差的问题,本文提出了一种基于核密度波动的无监督离群点检测算法。该算法运用核密度波动特征代替密度特征来识别离群点,可以更好地检测低密度模式下的离群点。在该算法中定义了核密度波动因子来表达数据点的离群度,核密度波动因子越大的数据点越可能是离群点。这一概念综合考虑了局部特征和全局特征,增强了对数据特征的表达能力,有效提高了无监督离群点检测算法的检测性能和稳定性。（2）针对半监督离群点检测中标记数据存在的标签噪声问题,本文提出了基于代价敏感学习的标签噪声过滤算法。该算法充分考虑了不同类别标签错误标记的损失和样本重要性差异,应用代价敏感学习理论和贝叶斯决策理论完成了基于最小风险损失原则的标签噪声过滤任务,提高了标签噪声过滤算法在离群点检测任务中的适用性。（3）针对含有标签噪声的标记数据和大量无标签数据的半监督离群点检测问题,本文提出了一种半监督离群点检测算法。该算法包括标签噪声检测过滤、异常评分计算和离群点识别三个过程。该算法细化了离群点类别,高效地挖掘了标记数据和无标签数据中的信息,提升了离群点检测算法在此种类型数据中的检测效率和稳定性。本文提出的算法可以作为解决半监督离群点检测问题的一般性方法。