生物信息学是集计算机科学、生物学、应用数学等学科为一体的综合学科,是随着人类基因组计划而产生的一门新学科。DNA微阵列技术是目前生物信息学研究的主要领域之一,它可以同时在一张微型的芯片上监测成千上万的基因在同一条件下的基因表达水平,为科学家从分子层次上对肿瘤等疾病进行诊断、分型的研究提供了可靠的科学依据。由DNA微阵列技术产生的基因表达数据通常具有高维小样本和高噪声的特性。而在高维数据中,数据往往变得稀疏,样本之间的距离差距不再明显,而且冗余特征也会随之增多,导致一般的聚类算法的有效性大大降低。通过对基因表达数据进行聚类分析以提高诊断肿瘤的准确度使之达到应用水平,成为了生物信息学和医学领域的热点研究。本文主要围绕肿瘤基因表达数据的谱聚类问题进行研究,具体研究工作包括:(1)基于稀疏表达的谱聚类算法(Sparse Representation based Spectral Clustering,SRSC)将每个高维样本映射到一个低维的系数向量子空间,并利用稀疏表达系数向量构造相似度矩阵从而进行谱聚类。由于基因表达数据中高噪声的存在,SRSC的聚类性能大大降低。针对这个问题,论文提出两种鲁棒的基于线性表达的谱聚类算法:基于6)近邻的稀疏表达谱聚类算法(KNN based SRSC,KNNSRSC)和基于局部约束的协同表达谱聚类算法(Locality-constrained Collaborative Representation based Spectral Clustering,LCRSC)。KNNSRSC算法在每个样本的稀疏表达系数向量中只保留6)个近邻样本对应的系数不变,而把其他系数设置成0,以提高对数据噪声的鲁棒性。LCRSC在计算每个样本的协同表达系数的时候,考虑了与之最相近的6)个样本的重构误差,使相似的样本得到的表达系数尽可能相似。然后利用这些表达系数为谱聚类构造相似度矩阵。实验表明KNNSRSC和LCRSC算法在基因表达数据上的聚类性能比SRSC更好。(2)对于SRSC算法,其系数向量的维数等于样本数目,当样本数目很大时,系数向量之间的距离差距也会不再明显,而且求解稀疏表达系数向量的过程非常耗时。针对该问题,提出一种基于非负矩阵分解的谱聚类算法(Nonnegative Matrix Factorization based Spectral Clustering,NMFSC)。NMFSC将每个样本表示成一组集合基因的线性组合,使每个样本都对应一个系数向量,系数向量的维数和样本个数无关而且远远低于样本的个数,然后根据系数向量构造相似度矩阵进行谱聚类。实验表明NMFSC的聚类性能比SRSC更高而且其运行速度比SRSC快得多,因而更适用于分析大规模的高维数据。