齿轮箱被广泛应用于机械传动中,可起到加减速、控制离合、分配动力等作用。齿轮箱的工作状态关系到整个机械设备的性能,由于齿轮箱的工作环境恶劣,经常以高负载、高转速的工况不间断的运行,对其进行故障诊断具有非常重要的意义。现如今的故障诊断研究大都是从三个方面对振动信号进行处理:一是利用传统的时频分析法和提取齿轮故障相关特征分析齿轮运行状态;二是从振动信号中根据专家经验人工提取特征并筛选,从而进行模式识别;三是自动对原始信号进行特征学习以达到模式识别的目的。鉴于此,本文首先基于角域同步平均技术提取齿轮故障特征,并定性的分析了其与齿轮故障的相关性,然后基于支持向量数据描述（Support Vector Data Description,SVDD）算法和卷积神经网络（Convolutional Neural Networks,CNN）分别构建了多分类SVDD（Multiclassification-SVDD,MSVDD）模型和优化的CNN模型用于齿轮的故障诊断。主要研究工作如下:（1）针对齿轮振动信号噪声强非线性强的特点,研究适合于齿轮振动信号的预处理技术及特征优选方法。齿轮振动信号中往往会有大量的噪声污染,本文选用同步平均技术提高信号信噪比,采用评价指标T-D（TSA-DIFF）,即同步平均信号与差分信号的差值的平均功率与差分信号的平均功率之比来评价同步平均效果的优劣,同时通过实验数据验证了同步平均信号特征在齿轮故障诊断中的有效性。针对齿轮多域状态特征集中特征冗余和特征表征故障能力不强的问题,研究对比了三种特征优选方法,通过TSNE工具对高维特征进行降维可视化,实验结果表明最大相关最小冗余（Maximal Relevance Minimal Redundancy,m RMR）特征优选法选出的特征子集具有较好的类内紧致和类间分离的特点。（2）SVDD算法常用于解决单值分类问题,存在支持向量在故障诊断等多值分类问题中无法有效提高边界样本的区分能力的问题,研究一种基于MSVDD模型的齿轮智能诊断方法。鉴于SVM中的“一对多”思想,本文将SVDD推广到多分类领域。针对MSVDD模型中存在混叠域样本诊断精度低的问题,结合惩罚因子C和高斯核参数σ对超球体模型的影响,本文采用自适应混沌简化粒子群优化（Adaptive Chaotic Simplified Particle Swarm Optimization,ACSPSO）算法对C和σ寻优,并重点设计了适应度函数以便保证寻优结果能够使得MSVDD模型尽可能多的囊括目标样本又不会出现混叠域现象。最后通过实验数据验证了适应度函数设计的合理性和MSVDD模型的有效性。（3）针对故障诊断研究中对信号进行特征提取需要依赖专家经验,研究一种基于CNN优化的齿轮智能诊断方法。本文从卷积神经网络角度出发,设计适用于齿轮故障诊断的CNN模型,针对CNN模型的不足,引入了批量归一化、残差模块和全局均值池化三种优化方法对CNN模型进行优化,并通过实验数据验证了这三种优化方法相结合的有效性,即优化CNN模型不仅收敛速度快、故障识别精度高还能有效减少网络模型参数总量,该模型经过多次测试,其性能表现出良好的稳定性,另外,在多工况的数据集中依然可以排除工况因素保持较高的故障识别精度。最后,从时间成本和抗噪性两个方面简要分析了MSVDD模型和优化CNN模型的性能优劣。实验结果表明:训练MSVDD模型需要的时间成本远低于训练优化的CNN模型需要的时间成本;而优化CNN模型的抗噪性要优于MSVDD模型。因此,工程应用中需根据具体应用场景选择合适的诊断模型。