传统的分类任务假定一个示例只能从有限类别集合中分配一个标记。然而,在现实应用中,一个示例往往具有复杂的语义,需要同时用多个标记来描述。例如,一幅图片可以同时具有“大海”、“桥”和“行人”等对象;一篇文档同时具有“经济”和“世博会”这些关键词。多标记分类是当前机器学习的重要研究领域,其任务是为示例预测多个正确的类标记。目前,多标记分类已经在生物信息学、Web挖掘、信息检索、个性化推荐、社会网络等领域得到广泛应用。多标记问题需要描述现实事物的多个语义,其特征数目往往达到数百甚至上千个。高维的特征空间往往给分类算法带来很多不利影响,例如更大的计算负担、模型过拟合和降低分类效果。因此,如何对多标记问题进行特征压缩,进而获得分类能力强的低维特征,是多标记分类研究的热点。进一步考虑到每个标记表达了独特的语义,往往具有特定的特征表达,本文称这种特征为“类属特征”。例如,在图片中,与纹理相关的特征有利于判断图片是否具有“沙漠”这个类标记。类属特征提取的目标是为每一个标记建立相应的低维特征空间,从而在其基础上学习高效的分类模型。另一方面,在多标记问题中,标记之间往往不是独立出现的,存在相互依赖的关系,这给多标记分类带来很大的挑战。因此,如何利用标记之间的关系来提高分类效果就成为多标记算法的另一个热点问题。因此,本文结合类属特征提取和多标记关系进行研究,提出了一系列的分类算法,主要研究内容和创新点如下:1、针对现有类属特征算法往往忽略标记关系的问题,采用聚类分析和过采样技术,提出了结合类属特征和标记关系的多标分类算法LF-LPLC。首先,通过聚类分析将原始的特征空间转换到低维的类属特征空间,这样每个标记都有自身独特的特征表达。然后通过k-最近邻技术挖掘两两标记之间的局部关系,根据这种关系首次提出在类属特征空间上运用过采样技术扩充每个标记的类属特征的方法。本文通过大量实验,验证了该算法的有效性,表明了利用标记关系扩充类属特征能够进一步提升分类器的性能。2、现有采用特征选择的方法提取类属特征的算法往往假定类属特征具有稀疏性,即类属特征来自原始特征空间的一个小的子集,但稀疏的类属特征未必总是适合建立高效的分类模型。针对这种情况,本文采用二次规划和线性回归等技术,提出了非稀疏类属特征提取和分类算法NSLSF。算法首先利用标记关系构建二次规划问题将原始的逻辑标记转化为数值标记以便传递更多的语义信息,然后在数值标记空间上利用线性回归技术获取类属特征。基于这些类属特征可以学习二元分类模型,获得的线性回归参数也可以直接用于分类。大量的实验表明,NSLSF算法作为非稀疏类属特征提取算法和分类算法均优于对比算法。3、为了解决传统栈式BR算法在利用标记关系的同时引入噪音和冗余特征的问题,采用帕累托最优技术选择类属特征,并利用类属特征扩充示例的特征空间,提出了一种有效的双层栈式BR算法SMBPO。SMBPO算法首先评估标记之间的关系,得到标记之间关系的评估矩阵,然后采用帕累托最优技术从第一层的预测标记中选择类属特征,将这种类属特征扩充到原始的特征空间用于第二层BR的训练。实验结果表明,该算法在多个多标记基准数据集上的分类效果都明显优于其它对比算法。4、针对传统分类器链算法存在标记训练顺序没有优化、原始特征和新增特征存在冗余和噪音等问题,本文提出基于类属特征的多标记分类器链算法LSF-CC。在该算法中,首先评估特征与标记、标记与标记之间的关系,然后根据关系决定标记的训练顺序。对于任一标记,首先利用关系分别从原始特征和已经训练的标记中选取类属特征,然后在这些类属特征之上为其训练二分类器。通过大量的实验结果表明,LSF-CC算法明显地提升了多标记分类器链算法的性能。