齿轮箱作为机械设备中必不可少的零部件，在社会生产中起着重要的作用，对其进行故障诊断具有重大的经济和社会意义。本文在研究齿轮箱故障诊断技术的基础上，将蚁群优化算法应用于诊断过程中，进一步完善齿轮箱故障诊断系统。蚁群优化算法是一种新型的模拟进化算法,具有较强的鲁棒性、分布式计算、易与其他的方法结合等特点，可用于求解大部分的优化问题。人工神经网络是一种大规模的分布式并行处理系统，具有自组织、自学习、自适应和非线性动态处理等特性，对于解决复杂的非线性问题具有广阔的前景。用蚁群算法优化神经网络的训练，并应用于齿轮箱故障诊断系统，具有较快的收敛速度和较高的故障诊断精度。本文针对齿轮箱的结构和工作过程，系统地分析了齿轮箱中齿轮和轴承的故障机理和故障特征。实验方案以齿轮箱为实验对象，在选好的测点上安装传感器测取齿轮箱振动信号，经过信号的预处理，提取反映齿轮箱运转特征信息的特征值，建立神经网络，应用特征值训练蚁群优化的神经网络，在训练过程中分析了主要参数对训练速度和精度的影响，并用测试样本测试了网络的辨识能力，把此网络应用在实际的齿轮箱故障诊断上，最后与传统BP算法神经网络的训练做了比较，实验结果表明用蚁群优化算法训练神经网络在速度和精度上都具有一定优势。