机器学习主要研究从数据中生成“模型”,但是要生成有效地模型,则必须有足够的有标签数据。然而,在许多实际应用场景中,为数据打上标签是非常耗时和昂贵的。主动学习是解决这一问题的主流方法,其主动选择一些对于模型有“价值”的样本加入训练集,旨在以尽可能小的数据标记成本训练得到预期的模型。主动学习的核心是样本选择策略,合理的策略可以有效地降低数据标记成本。尽管现有的样本选择策略能够显著降低数据标记的量,但仍然有一些不足。例如,对有标签数据的利用不充分,或选择策略的效率整体较低。对有标签数据利用不充分的主要原因是基于聚类的主动学习算法通常使用确定的样本选择策略。这种策略忽略了待分类样本簇的结构信息,不可避免的会选择标记一些冗余的数据,此类数据对于模型的性能的提升微乎其微。选择效率较低的原因有两方面。一方面基于误差减少的主动学习算法需要考虑每个数据点可能的标签并推断其他数据点的标签以计算预期的泛化误差。另一方面没有有效的机制消除批处理模式中的信息冗余问题,每次迭代只能选择一个样本且需要重新训练整个模型。为了提高有标签样本的利用率和样本选择的效率,本文针对上述问题进行了深入调研与探索,并取得了以下成果:1)为提高有标签样本的利用率,避免标签的浪费。本文提出了基于优化密度聚类的自适应主动学习算法。首先,我们引入k近邻结构度量样本的局域密度,使得算法可以更好的挖掘数据的结构信息,提升了算法对于参数的鲁棒性。然后,提出了一种自适应关键样本选择策略。该策略可根据待分类样本簇的结构信息自适应地决定所需选择的样本数,从而避免了冗余数据的选择。最后,实验结果表明,所提出的方法与目前的已有方法相比,可以更加充分地利用有标签样本,使用更少的标签取得了更高的分类精度,并且具有良好的稳定性。2)为提高样本选择的效率和有效消除批处理模式中的信息冗余。本文提出了一种基于互信息的可拓展批处理主动学习算法。首先,我们通过快速聚类算法构建层次锚点图并将所有数据点分配给附近的锚点,约减了样本选择策略需要考虑的数据量,避免了在训练过程中增量地重新推断大量数据点的标签,极大地提升了样本选择策略的效率。其次,我们提出了基于互信息的批处理样本选择策略,该策略可以消除批处理模式中的信息冗余,降低算法的迭代次数,减少重复训练模型的时间开销,进一步提升了算法的整体效率。最后,实验结果表明,所提出的方法与目前的已有的方法相比,可以有效地消除批处理模式中的信息冗余,取得了更高的分类精度。