由于高维数据的空间分布具有簇间差异性和簇内相似性,使得对其进行聚类分析成为可能。然而高维数据结构复杂、冗余信息多,使得高维数据聚类仍然是机器学习与数据挖掘领域的难点之一。基于数据自表示的子空间聚类模型因其扎实的理论基础以及良好的性能表现,近年来引起了数据科学家们的广泛关注。但现有工作中依然存在着以下问题:一是缺乏有效的局部几何结构保持机制,导致相似性度量不准确;二是传统的子空间聚类模型一般采用单层分解机制,导致无法充分挖掘深度的层次信息;三是现有的深度子空间聚类网络一般基于单任务,导致聚类结果不准确。鉴于此,本文提出了三种结构更优、效果更好、鲁棒性更强的子空间聚类模型,并通过详细的对比实验验证模型的有效性。本文的主要内容如下:1)针对问题一,本文提出基于互流形正则化的快速隐低秩表示模型。模型的改进主要体现在两个方面:首先,通过设计一个互流形正则化项,并结合动态权重更新策略,使得一些重要的局部拓扑结构信息可通过该正则化项来监督低秩系数和显著特征的学习过程,有效地保持低秩系数和显著特征之间的局部近邻结构,从而提升模型子空间聚类和特征表示能力;其次,将原始低秩系数进一步分解为干净的低秩系数和稀疏误差部分,增强了模型的鲁棒性,进一步提高了低秩子空间复原和聚类能力。2)针对问题二,本文提出基于多层协作的快速隐低秩表示学习模型DeepLRR。首先,该模型建立了多层矩阵分解结构,将隐低秩表示模型从单层拓展到多层,进而使得在每层中可利用上一层的低秩系数和投影等深层次信息重构原始数据,生成新的深层表示,然后作为该层的输入和低秩字典。其次,该模型通过构建局部重构误差项,可自适应地保持深层次显著特征的局部几何结构。此外,还采用了动态增长策略调整各层的模型参数,达到较为精确地建模数据中的噪声的目的。3)针对问题三,本文提出端到端的三元深度子空间聚类网络TDSC-Net,将传统的单任务聚类模型拓展到了多任务范畴。通过谱聚类模块和自监督增强模块生成三元组数据（即锚点数据、正例数据和负例数据）,然后构建具有自表示层的三元（即三重任务）深度自编码网络。三元组数据作为该网络的输入,并通过共享所有网络层建立起三重任务学习体系。每一组数据对应一个任务,在训练过程中,三重任务之间相互监督、共同提升。其次,采用三元组损失保持隐层编码的局部结构信息,以此提升隐层编码的自表示能力。最后,将自表示层从解码层中独立出来,可有效提升重构的效率。