聚类与异常检测作为经典的数据分析算法被广泛地应用在数据挖掘领域。异常检测可以当作聚类的预处理方法,聚类可以视为异常检测的中间步骤,两者互为补充、相辅相成。然而,传统的聚类与异常检测算法依赖于人工提取数据特征。在处理复杂多样的数据时需要耗费大量人力进行数据预处理。随着深度学习在特征工程领域的不断发展,基于深度学习的聚类与异常检测算法受到广泛的关注。本文围绕基于深度学习的聚类与异常检测算法中存在的问题开展研究,旨在为数据的挖掘与管理提供有效的数据分析方法。主要贡献如下:（1）深度图聚类。首先,针对现有算法在提取图特征时忽略节点特征,且无法获得簇结构信息的问题,本文提出基于图神经网络的深度图聚类。该算法构建图神经网络考虑图中的节点特征和拓扑结构,根据图核与伪标签信息发现图之间的相似关系,从而提升图聚类效果。其次,针对图神经网络提取标量图特征,无法充分考虑图属性信息的问题,本文设计图聚类胶囊神经网络捕获向量化图特征。通过迭代优化策略更新胶囊网络参数与簇分配参数,增强了网络的表征能力。（2）深度多模态聚类。现有算法先学习数据特征再对特征进行聚类,学到的数据特征并不是适用于聚类任务的特征。此外,现有算法的网络结构无法满足聚类的约束条件。针对以上问题,本文提出基于端到端模式的深度多模态聚类。通过调整解码器结构,并且最小化重构数据与原始数据之间的距离,使模型直接输出聚类结果。引入多模特征融合模块,缩小融合特征与不同模态特征之间的差距,充分学习模态间的一致性信息,有效地改善了聚类结果。（3）深度异常检测。首先,针对基于推断的算法采用对抗训练约束目标方程无法捕获正常数据簇状结构,忽略正常数据边缘分布的问题,本文提出基于辅助任务与对抗训练的异常检测。通过分类正常数据与辅助数据学习正常数据的簇状结构,构建深度对抗训练模型捕获正常数据的边缘分布信息。其次,针对基于单分类器的算法采用单分类约束目标方程丢失文本内容信息,并且标量注意力权重无法关注单词维度属性的问题,本文提出基于注意力机制的文本异常检测。通过设计注意力机制与对抗训练方式捕获文本语义信息,构建维度转换矩阵提取多义词维度属性,提升了文本异常检测的效果。