聚类算法作为一种无监督学习方法,广泛应用于医学影像、图像分割、目标检测、和网络安全等领域。近年来,随着数据信息愈加复杂、多样,类的不平衡问题始终是学者们研究的热点之一。传统的聚类算法一般适用于普通数据集,在类大小差别较大的不平衡数据集上的聚类具有难以确定最终聚类数、不平衡比例未知等难点。多子类思想,是一种将不平衡数据集分成若干相似大小的子类,之后对相似度较高的子类进行合并得到最终聚类结果的过程。这种思想能将大类和小类进行统一处理,可以极大程度上减轻不平衡特性的影响。基于此,本文设计了相应的不平衡数据聚类算法,在一定程度上克服了聚类算法在不平衡数据集上的局限性。具体的研究内容如下:（1）密度峰值聚类算法凭借其易于理解、快速高效的特点被广泛应用,但依然存在参数敏感、需要人工干预和“多米诺效应”（一个错误产生的连锁反应）等缺点。综合k近邻与密度峰值聚类的优势,提出了一种自适应的多子类不平衡数据聚类算法,该算法由子类划分和子类合并两阶段组成。在子类划分阶段,设计了一种子类划分方法。首先,将自动确定邻域k值的方法应用于k近邻中,并依此计算各样本点的局部密度、向上距离（与局部密度更大样本点的最远距离）。整个过程中无需任何参数,提高了算法的自适应能力。然后,设计了一种选择子类中心的方法,从数据集中选择部分样本作为子类的中心点,并将非中心点归于最近的中心点,克服了密度峰值聚类需要人工确定类中心的缺点。在子类合并阶段,设计了一个子类合并方法。首先,依据属于同一类的两子类交界处平均样本点距离较近的特点,判断各子类之间是否需要合并,定义并构建子类之间的可达性矩阵。然后,对可达性矩阵采用深度优先遍历的方法合并子类,进而获得最终聚类结果。分析实验结果可知,算法不仅在评价指标上有好的表现,而且还具有识别形状不规则的数据集、适用于具有不平衡特征的数据集和自动确定聚类数量等优点。（2）聚类中,竞争学习方法是一种通过某种方法将类中心区分为获胜者、失败者,之后分别对获胜者、失败者进行位置更新直至趋于稳定的过程。采用这种方法的算法一般具有自适应能力,但也存在一些问题,如“死单元问题”（某些样本点永远无法获胜）、“均匀效应”（各类大小相似）等。为了解决上述问题并将其应用于不平衡数据聚类中,提出了一种基于竞争学习的多子类不平衡数据聚类算法。首先,设计了一种选择模糊点的方法,从数据集中剔除噪声点与边缘点,避免了模糊点对聚类效果的影响。然后,在每一次迭代中改进竞争学习方法,设计了一种新的获胜者、失败者选择和更新策略,使得处于动态更新的类中心更加均匀稳定。其次,当子类中心新旧位置的最大距离满足一定条件时,设计了一种选择新增子类中心的方法,使子类更能反映数据集的样本分布。最后,在迭代结束时将非中心点（不含模糊点）归于最近的子类中心形成子类,构建可达性矩阵采用深度优先遍历的方法对子类进行合并,并将模糊点归于最近的类,得到最终聚类结果。将所提算法与近几年的聚类方法进行了实验比对,证明了算法不仅在各项评价指标上优于其他算法,还具有识别形状不规则的数据集、适用于有不平衡特征的数据集、划分的子类更均匀和对噪声点不敏感等优点。