旋转机械是各类机械设备的重要部件,其中最常见的就是齿轮和轴承;为了减少这类关键部件发生故障而带来的损失,对其进行故障诊断以确保整个装备系统健康运行有着十分重要的意义。论文以故障特征提取和模式识别相结合的方式构造故障诊断模型,研究了凸包（Convex Hull,CH）和多面体锥（Polyhedral Conic,PC）两种几何分类模型的理论基础和实际应用,着力对CH和PC这两种几何模型进行改进,提出了概率输出弹性凸包（Probability Output Flexible Convex Hull,POFCH）分类模型和旋转多面体锥（Rotated and Extended Polyhedral Conic,REPC）分类模型,并且成功应用在旋转机械故障诊断。论文主要的研究内容从以下几点展开:（1）原始凸包以及弹性凸包（Flexible Convex Hull,FCH）模型分类器的分类超平面只采用了凸包外围边界点的决策贡献,因此,当样本分布不均匀或者外围边界点为离群点时,CH和FCH的分类精度会降低;针对这一缺陷,论文提出了概率输出弹性凸包二分类模型。该方法将数据点到其原始分类超平面的距离映射到到0到1之间,进行概率拟合,从而对初始分类超平面进一步优化,最终使用输出概率进行分类决策,从而改善了原始分类器的缺陷。（2）为了解决多分类问题,以概率输出弹性凸包二分类器为基础,提出了两种多分类模型,基于决策树的概率输出弹性凸包决策树多分类模型和基于一对一的多概率耦合输出多分类模型;通过不同故障数据进行实验,证明了两种多分类模型均有较好的效果,同时具有良好的鲁棒性,能够有效地识别故障。（3）针对多面体锥分类模型的决策边界难以拟合真实正类区域,从而导致分类精度降低而且鲁棒性差的缺陷,提出了旋转多面体锥分类器（Rotated and Extended Polyhedral Conic Classifier,REPCC）。该分类器在对L1范数向量化的基础上增加旋转因子,能够对分类边界实现适当尺度的伸缩和边界域的增加;使得分类器的边界能够更好地拟合正类区域;从而提升了原始分类器的精度。将该方法结合时频域特征,应用于旋转机械故障诊断,通过实验证明了旋转多面体锥分类器的有效性,并且能够在小样本情况下准确识别机械工作状态和故障类型,并且有着较好的鲁棒性和抗干扰能力。