挖掘复杂网络中的层次结构对复杂网络的研究有着重要的意义.复杂网络中的社团结构往往具有层次性.过去的研究中,研究者更多的关注于层次社团结构,而很少关注于社团内部成员的层次结构.因此,提出一种基于模糊相容关系的层次结构挖掘算法(fuzzy tolerance relation based hierarchical structure detection algorithm,FHSD),旨在挖掘层次社团结构以及社团内部成员层次结构.在该算法中,首先通过相似度函数计算节点之间的相似性从而获取一个满足模糊相容关系的相似度矩阵;其次,基于相似度矩阵获取对应的商空间链;然后,依据重叠节点对各社团的隶属度处理商空间链各层中的重叠节点,从而得到层次社团结构;最后,基于处理后的商空间链,获取对原始模糊相容的近似模糊等价关系,从而获取社团内部成员层次结构.在真实网络上的实验结果表明:(1)复杂网络中不仅存在层次社团结构,同时存在基于模糊相容关系的社团成员层次结构;(2)相比于当前主流的社团挖掘算法,FHSD挖掘出的社团结构具有最高的精准性(NMI accuracy)和较高的模块度值.